2022李宏毅作业hw1—新冠阳性人员数量预测。
?
事前:
kaggle地址:ML2021Spring-hw1 | Kaggle
我的git地址: https://github.com/xiaolilaoli/lihongyi2022homework/tree/main/hw1_covidpred
当然作为新手,我也是参考的其他大神的。参考的过多,我就不一一放地址了,在这里谢过各位大佬。如果和我一样的新手,调试代码看张量流动绝对是一个好用的方法。
作业介绍: 说的是啊 这个美国,好像是有40个州, 这四十个州呢 ,统计了连续三天的新冠阳性人数,和每天的一些社会特征,比如带口罩情况, 居家办公情况等等。现在有一群人比较坏,把第三天的数据遮住了,我们就要用前两天的情况以及第三天的特征,来预测第三天的阳性人数。但幸好的是,我们还是有一些数据可以作为参考的,就是我们的训练集。
一: 数据读取。
(第一步引用的包:)
import numpy as np
from torch.utils.data import Dataset,DataLoader
import csv
import torch
from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
文章图片
先从kaggle上把数据下下来看看。点那个data就找到下载的地方了。下载好数据第一步先观察train的数据是什么样子的。如下图,可以看到有很多列,每一列都是一类特征,每一行都是一个样本。黄红蓝是第1,2,3天的测试阳性数据。蓝色的就是我们要预测的值啦。
文章图片
文章图片
?
我们再细看数据: 可以看到第一行是没有用的,他只是标签的名称。然后第一列也是没有用处的,因为他只是标注样本是第几个样本。等会处理数据时都要处理掉。 然后我们可以注意到前40列的数据和后面五十多列是不一样的,一般是一列全1 其他列全0 ,表示的是1所在的那个州,地点标识而已。
文章图片
文章图片
?
看清楚数据的结构,下面我们开始读入数据。csv数据和其他数据的读法差不多。比如你可以选择下面的文件式读法。
with open(r'covid.train.csv', 'r') as f:
train_data = https://www.it610.com/article/f.readlines()train_data = [line.split('\n') for line in train_data][1:]#分行之后不要第一行
train_data = https://www.it610.com/article/[each[0].split(',') for each in train_data]#对于每一行 去掉后面的空格
print(len(train_data[0]))
train_data = https://www.it610.com/article/np.array(train_data)#转换成numpy的矩阵train_x = train_data[:,1:-1]# x是数据,y是标签 。第一个冒号表示所有行,第二个冒号表示
train_y = train_data[:,-1]#列。所以x就是第2列到倒数第二列。y就是倒数第一列。
文章图片
也可以选择csv的专门读取excel表格的函数
with open(path,'r') as f:
csv_data = https://www.it610.com/article/list(csv.reader(f))
column = csv_data[0]#0行是标题
csv_data = np.array(csv_data[1:])[:,1:].astype(float)#连环操作 先取行 转numpy
#再取列 转float
文章图片
然后这里要介绍一个取最相关列的操作。 上面的数据我们知道有95列,可是,这90多列,每一列都与结果是相关的吗? 恐怕不一定,肯定有些特征卵用没有。所以我们这里可以找到那些相关的列,用这些特征来预测结果。找特征有很多方法,大家可以百度特征选择,有很多介绍。这里用的是SelectKBest 函数。顺便定义了一个挑特征的函数。column是第一行的特征名称,我传入是为了打印看看是哪些特征重要,要不然他挑了半天我也不知道啊 。k是挑多少个特征。
def get_feature_importance(feature_data, label_data, k =4,column = None):
"""
此处省略 feature_data, label_data 的生成代码。
如果是 CSV 文件,可通过 read_csv() 函数获得特征和标签。
"""
model = SelectKBest(chi2, k=k)#选择k个最佳特征
X_new = model.fit_transform(feature_data, label_data)
#feature_data是特征数据,label_data是标签数据,该函数可以选择出k个特征
print('x_new', X_new)
scores = model.scores_
# 按重要性排序,选出最重要的 k 个
indices = np.argsort(scores)[::-1] #找到重要K个的下标
if column:
k_best_features = [column[i+1] for i in indices[0:k].tolist()]
print('k best features are: ',k_best_features)
return X_new, indices[0:k]
文章图片
找好特征后。我们还需要进行训练集和验证集的划分。 我们知道,kaggle下下来只有训练集和测试集,所以我们需要从训练集里分出来一个验证集来作为模型评价。 方法可以是直接截一段,也可以是逢几个挑一个,也可以是随机的。我这里是逢5挑1
if mode == 'train':
indices = [i for i in range(len(csv_data)) if i % 5 != 0]
self.y = torch.LongTensor(csv_data[indices,-1])
elif mode == 'val':
indices = [i for i in range(len(csv_data)) if i % 5 == 0]
# data = https://www.it610.com/article/torch.tensor(csv_data[indices,col_indices])
self.y = torch.LongTensor(csv_data[indices,-1])
else:
indices = [i for i in range(len(csv_data))]
#这是测试数据 不需要标签 也没有标签
文章图片
取完数据后,一般还要有一个归一化的步骤,防止各个特征的数量级相差过于大。这里用的是Z-score标准化方法。减均值除以标准差
self.data = https://www.it610.com/article/(self.data - self.data.mean(dim=0,keepdim=True))
/self.data.std(dim=0,keepdim=True)#这里将数据归一化。
文章图片
综上所述,我们可以写出我们的dataset函数了。基本上大部分神经网络都是需要读数据这部分的,过程就是把数据从本地文件,读入dataset中去。dataset中一般有三个函数,第一个是初始化__init__:一般负责把数据从文件取出来。第二个获取数据__getitem__, 负责读第几个数据。第三个获取长度__len__: 负责返回数据集的长度。
一个完整的从csv到可以用的dataset的 代码如下图所示。 这一部分被我放在model——utils的data模块里。
完整代码:
import numpy as np
from torch.utils.data import Dataset,DataLoader
import csv
import torch
from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2def get_feature_importance(feature_data, label_data, k =4,column = None):
"""
此处省略 feature_data, label_data 的生成代码。
如果是 CSV 文件,可通过 read_csv() 函数获得特征和标签。
"""
model = SelectKBest(chi2, k=k)#选择k个最佳特征
X_new = model.fit_transform(feature_data, label_data)
#feature_data是特征数据,label_data是标签数据,该函数可以选择出k个特征
print('x_new', X_new)
scores = model.scores_
# 按重要性排序,选出最重要的 k 个
indices = np.argsort(scores)[::-1] #找到重要K个的下标
if column:
k_best_features = [column[i+1] for i in indices[0:k].tolist()]
print('k best features are: ',k_best_features)
return X_new, indices[0:k]class covidDataset(Dataset):
def __init__(self, path, mode, feature_dim):
with open(path,'r') as f:
csv_data = https://www.it610.com/article/list(csv.reader(f))
column = csv_data[0]
train_x = np.array(csv_data)[1:][:,1:-1]
train_y = np.array(csv_data)[1:][:,-1]
_,col_indices = get_feature_importance(train_x,train_y,feature_dim,column)
col_indices = col_indices.tolist()#得到重要列的下标
csv_data = np.array(csv_data[1:])[:,1:].astype(float)
if mode =='train':#如果读的是训练数据 就逢5取4indices是数据下标
indices = [i for i in range(len(csv_data)) if i % 5 != 0]
self.y = torch.LongTensor(csv_data[indices,-1])
elif mode == 'val':#如果读的是验证数据 就逢5取1indices是数据下标
indices = [i for i in range(len(csv_data)) if i % 5 == 0]
# data = https://www.it610.com/article/torch.tensor(csv_data[indices,col_indices])
self.y = torch.LongTensor(csv_data[indices,-1])
else:#如果读的是测试数据 就全取了
indices = [i for i in range(len(csv_data))]
data = torch.tensor(csv_data[indices,:]) #取行
self.data = data[:,col_indices]#取列
self.mode = mode
self.data = (self.data - self.data.mean(dim=0,keepdim=True)) /self.data.std(dim=0,keepdim=True)#这里将数据归一化。
assert feature_dim == self.data.shape[1]print('Finished reading the {} set of COVID19 Dataset ({} samples found, each dim = {})'
.format(mode, len(self.data), feature_dim))def __getitem__(self, item):
if self.mode == 'test':
return self.data[item].float()
else :
return self.data[item].float(), self.y[item]
def __len__(self):
return len(self.data)
文章图片
二 模型设计。 数据都读完了,接下来肯定是模型了 。当然这里是一个简单的回归模型我用两个全连接实现的,中间加了一个relu。inDim是传入的参数 ,就是上面我们挑选的重要特征的数量啦。这部分比较简单,一般模型都是包括这两个部分 __init__和forward也就是初始化和前向传播。初始化中会定义前向传播里需要的模型模块。前向传播里就是输入到输出的流动了 。x是输入的张量,最后输出模型计算结果。 模型也非常简单。
文章图片
文章图片
?
注意网络一般都是按batch大小计算的。我举个例子。 假如我挑了4个特征,那么模型输入长度就是4,输出长度就是1(回归值) 。假如我16个数据1批次, 输入大小就是(16,4) 输出就是(16,1) 这都是自动的 不用我们担心。这一部分被我放在model_utils的model模块里。
完整代码:
import torch.nn as nnclass myNet(nn.Module):
def __init__(self,inDim):
super(myNet,self).__init__()
self.fc1 = nn.Linear(inDim, 64)
self.relu = nn.ReLU()
self.fc2 = nn.Linear(64,1)def forward(self, x):
x = self.fc1(x)
x = self.relu(x)
x = self.fc2(x)
if len(x.size()) > 1:
return x.squeeze(1)#如果批量大小不为1 这里才需要展平。
else:
return x
文章图片
【2022李宏毅作业hw1—新冠阳性人员数量预测。】
三训练步骤。 训练函数推荐大家自己定义一个的,这样以后面对大部分问题都可以通用。
这个是训练的过程 都是很常规的步骤。
for i in range(epoch):
start_time = time.time()
model.train()#开启训练
train_loss = 0.0
val_loss = 0.0
for data in trainloader:
optimizer.zero_grad()
x , target = data[0].to(device), data[1].to(torch.float32).to(device)
#从loader里取一批数据
pred = model(x)#经过模型预测
bat_loss = loss(pred, target, model)#计算loss
bat_loss.backward()#梯度回传
optimizer.step()#计算
train_loss += bat_loss.detach().cpu().item()#记录loss值 注意要从gpu上取下来
#再从张量里取出来plt_train_loss . append(train_loss/trainset.__len__())#记录
文章图片
每一个epoch里还有验证步骤。参照训练可以看到每一步的作用。多了一个保存模型的步骤。保存loss最低时的那个模型。
model.eval()
with torch.no_grad():
for data in valloader:
val_x , val_target = data[0].to(device), data[1].to(device)
val_pred = model(val_x)
val_bat_loss = loss(val_pred, val_target, model)
val_loss += val_bat_loss
val_rel.append(val_pred)
if val_loss < min_val_loss:
min_val_loss = val_loss
torch.save(model, save_)plt_val_loss . append(val_loss/valloader.__len__())
文章图片
还有绘图: 画出loss的变化情况。
plt.plot(plt_train_loss)
plt.plot(plt_val_loss)
plt.title('loss')
plt.legend(['train', 'val'])
plt.show()
文章图片
完整的训练代码:这一部分被我放在model_utils的train模块里。
import torch
import time
import matplotlib.pyplot as pltdef train_val(model, trainloader, valloader,optimizer, loss, epoch, device, save_):# trainloader = DataLoader(trainset,batch_size=batch,shuffle=True)
# valloader = DataLoader(valset,batch_size=batch,shuffle=True)
model = model.to(device)
plt_train_loss = []
plt_val_loss = []
val_rel = []
min_val_loss = 100000for i in range(epoch):
start_time = time.time()
model.train()
train_loss = 0.0
val_loss = 0.0
for data in trainloader:
optimizer.zero_grad()
x , target = data[0].to(device), data[1].to(torch.float32).to(device)
pred = model(x)
bat_loss = loss(pred, target, model)
bat_loss.backward()
optimizer.step()
train_loss += bat_loss.detach().cpu().item()plt_train_loss . append(train_loss/trainloader.__len__())model.eval()
with torch.no_grad():#验证时 不计算梯度
for data in valloader:
val_x , val_target = data[0].to(device), data[1].to(device)
val_pred = model(val_x)
val_bat_loss = loss(val_pred, val_target, model)
val_loss += val_bat_loss
val_rel.append(val_pred)
if val_loss < min_val_loss:
torch.save(model, save_)
min_val_loss = val_loss
plt_val_loss . append(val_loss/valloader.__len__())print('[%03d/%03d] %2.2f sec(s) TrainLoss : %3.6f | valLoss: %3.6f' % \
(i, epoch, time.time()-start_time, plt_train_loss[-1], plt_val_loss[-1])
)plt.plot(plt_train_loss)
plt.plot(plt_val_loss)
plt.title('loss')
plt.legend(['train', 'val'])
plt.show()
文章图片
四:测试和保存步骤 。 测试和验证时很相似的。 少的是预测值和真值的比较,因为没有真值 ,多的是预测值得保存。按照kaggle要求保存在csv里 。这一部分被我放在model_utils的evaluate模块里。
完整代码:
import numpy as np
import torch
from torch.utils.data importDataLoaderimport csvdef evaluate(model_path, testset, rel_path ,device):
model = torch.load(model_path).to(device)
testloader = DataLoader(testset,batch_size=1,shuffle=False)#放入loader 其实可能没必要 loader作用就是把数据形成批次而已
val_rel = []
model.eval()
with torch.no_grad():
for data in testloader:
x= data.to(device)
pred = model(x)
val_rel.append(pred.item())
print(val_rel)
with open(rel_path, 'w') as f:
csv_writer = csv.writer(f)#百度的csv写法
csv_writer.writerow(['id','tested_positive'])
for i in range(len(testset)):
csv_writer.writerow([str(i),str(val_rel[i])])
文章图片
五 : 主函数。 万事俱备,只欠东风。就像人的四肢脑袋都齐了,就差个body把他们连起来了,起这个作用的 就是main函数。
调包第一步 除了系统包 还有自己写的
from model_utils.model import myNet
from model_utils.data import covidDataset
from model_utils.train import train_val
from model_utils.evaluate import evaluate
from torch import optim
import torch.nn as nn
import torch
from torch.utils.data import Dataset,DataLoader
文章图片
路径和设备 以及一些超参。 在这里 我尝试将一些超参放入字典中。
device = 'cuda' if torch.cuda.is_available() else 'cpu'#设备一般gpu 没有就cpu
train_path = 'covid.train.csv'#训练数据路径
test_path = 'covid.test.csv'#测试数据路径feature_dim = 6#重要的特征数
trainset = covidDataset(train_path,'train',feature_dim=feature_dim)
valset = covidDataset(train_path,'val',feature_dim=feature_dim)
testset = covidDataset(test_path,'test',feature_dim=feature_dim)
#对照数据部分 读取了三个数据setconfig = {
'n_epochs': 2000,# maximum number of epochs
'batch_size': 270,# mini-batch size for dataloader
'optimizer': 'SGD',# optimization algorithm (optimizer in torch.optim)
'optim_hparas': {# hyper-parameters for the optimizer (depends on which optimizer you are using)
'lr': 0.0001,# learning rate of SGD
'momentum': 0.9# momentum for SGD
},
'save_path': 'model_save/model.pth',# your model will be saved here
}#一些超参数比如epochbatchsize lr 等等。
文章图片
定义loss这里采用了mseloss 然后还加上了正则化
def getLoss(pred, target, model):
loss = nn.MSELoss(reduction='mean')
''' Calculate loss '''
regularization_loss = 0
for param in model.parameters():
# 使用L2正则项
regularization_loss += torch.sum(param ** 2)
return loss(pred, target) + 0.00075 * regularization_lossloss =getLoss
文章图片
定义model和优化器 以及数据传入loader 前面说过这是为了批量处理
model = myNet(feature_dim).to(device)
optimizer = optim.SGD(model.parameters(), lr=0.001,momentum=0.9)trainloader = DataLoader(trainset,batch_size=config['batch_size'],shuffle=True)
valloader = DataLoader(valset,batch_size=config['batch_size'],shuffle=True)
文章图片
训练和测试
train_val(model, trainloader,valloader,optimizer, loss, config['n_epochs'],device,save_=config['save_path'])
evaluate(config['save_path'], testset, 'pred.csv',device)
文章图片
完整代码:
from model_utils.model import myNet
from model_utils.data import covidDataset
from model_utils.train import train_val
from model_utils.evaluate import evaluate
from torch import optim
import torch.nn as nn
import torch
from torch.utils.data import Dataset,DataLoaderdevice = 'cuda' if torch.cuda.is_available() else 'cpu'
train_path = 'covid.train.csv'
test_path = 'covid.test.csv'feature_dim = 6
trainset = covidDataset(train_path,'train',feature_dim=feature_dim)
valset = covidDataset(train_path,'val',feature_dim=feature_dim)
testset = covidDataset(test_path,'test',feature_dim=feature_dim)config = {
'n_epochs': 2000,# maximum number of epochs
'batch_size': 270,# mini-batch size for dataloader
'optimizer': 'SGD',# optimization algorithm (optimizer in torch.optim)
'optim_hparas': {# hyper-parameters for the optimizer (depends on which optimizer you are using)
'lr': 0.0001,# learning rate of SGD
'momentum': 0.9# momentum for SGD
},
'early_stop': 200,# early stopping epochs (the number epochs since your model's last improvement)
'save_path': 'model_save/model.pth',# your model will be saved here
}def getLoss(pred, target, model):
loss = nn.MSELoss(reduction='mean')
''' Calculate loss '''
regularization_loss = 0
for param in model.parameters():
# TODO: you may implement L1/L2 regularization here
# 使用L2正则项
# regularization_loss += torch.sum(abs(param))
regularization_loss += torch.sum(param ** 2)
return loss(pred, target) + 0.00075 * regularization_lossloss =getLossmodel = myNet(feature_dim).to(device)
optimizer = optim.SGD(model.parameters(), lr=0.001,momentum=0.9)trainloader = DataLoader(trainset,batch_size=config['batch_size'],shuffle=True)
valloader = DataLoader(valset,batch_size=config['batch_size'],shuffle=True)train_val(model, trainloader,valloader,optimizer, loss, config['n_epochs'],device,save_=config['save_path'])
evaluate(config['save_path'], testset, 'pred.csv',device)
文章图片
事后: 运行主函数 我们将得到 pred.csv。这就是我们得预测结果啦。打开kaggle网址项目所在页, 注册,点击late submission 提交你的pred.csv文件吧。 这也是我第一次用kaggle。 好像我的得分也很低。大家如果想得一个比较高得分,可以多调调超参和模型。fighting!!!
文章图片
文章图片
?
李宏毅老师前年课程的第一个作业也是回归,不过不是新冠。当时我啥都不会写,把网上得copy下来,一步一步调试才慢慢懂一点点。 这次第二次做回归,只能说比第一次熟练了很多,虽然还是不能全部一个人写下来。 写这个文章,与大家共勉。
?
推荐阅读
- 《2022产业互联网安全十大趋势》正式发布
- HMS|HMS Core在MWC2022展示最新开放能力,助力开发者构建精品应用
- 蓝桥杯2022年java试题
- 图像处理软件Photoshop 2022 Mac/win(ps2022)中文版
- 2022金三银四前端面试题预告
- 鉴机识变,面向未来|RocketMQ|鉴机识变,面向未来|RocketMQ Summit 2022 即将来袭
- makefile|2022 年前端趋势的 6 个预测
- 人生经验|我组18篇论文被ACL 2022录用
- Java面试|68道Redis面试题,20000字宝藏,赶紧收藏起来备用,2022年最新版
- 资源分享|泰森云2022年2月资源分享列表 7/20