2022李宏毅作业hw1—新冠阳性人员数量预测。

?
事前: kaggle地址:ML2021Spring-hw1 | Kaggle
我的git地址: https://github.com/xiaolilaoli/lihongyi2022homework/tree/main/hw1_covidpred
当然作为新手,我也是参考的其他大神的。参考的过多,我就不一一放地址了,在这里谢过各位大佬。如果和我一样的新手,调试代码看张量流动绝对是一个好用的方法。
作业介绍: 说的是啊 这个美国,好像是有40个州, 这四十个州呢 ,统计了连续三天的新冠阳性人数,和每天的一些社会特征,比如带口罩情况, 居家办公情况等等。现在有一群人比较坏,把第三天的数据遮住了,我们就要用前两天的情况以及第三天的特征,来预测第三天的阳性人数。但幸好的是,我们还是有一些数据可以作为参考的,就是我们的训练集。

一: 数据读取。 (第一步引用的包:)

import numpy as np from torch.utils.data import Dataset,DataLoader import csv import torch from sklearn.feature_selection import SelectKBest from sklearn.feature_selection import chi2

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
先从kaggle上把数据下下来看看。点那个data就找到下载的地方了。下载好数据第一步先观察train的数据是什么样子的。如下图,可以看到有很多列,每一列都是一类特征,每一行都是一个样本。黄红蓝是第1,2,3天的测试阳性数据。蓝色的就是我们要预测的值啦。
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
?
我们再细看数据: 可以看到第一行是没有用的,他只是标签的名称。然后第一列也是没有用处的,因为他只是标注样本是第几个样本。等会处理数据时都要处理掉。 然后我们可以注意到前40列的数据和后面五十多列是不一样的,一般是一列全1 其他列全0 ,表示的是1所在的那个州,地点标识而已。
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
?
看清楚数据的结构,下面我们开始读入数据。csv数据和其他数据的读法差不多。比如你可以选择下面的文件式读法。

with open(r'covid.train.csv', 'r') as f: train_data = https://www.it610.com/article/f.readlines()train_data = [line.split('\n') for line in train_data][1:]#分行之后不要第一行 train_data = https://www.it610.com/article/[each[0].split(',') for each in train_data]#对于每一行 去掉后面的空格 print(len(train_data[0])) train_data = https://www.it610.com/article/np.array(train_data)#转换成numpy的矩阵train_x = train_data[:,1:-1]# x是数据,y是标签 。第一个冒号表示所有行,第二个冒号表示 train_y = train_data[:,-1]#列。所以x就是第2列到倒数第二列。y就是倒数第一列。

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
也可以选择csv的专门读取excel表格的函数

with open(path,'r') as f: csv_data = https://www.it610.com/article/list(csv.reader(f)) column = csv_data[0]#0行是标题 csv_data = np.array(csv_data[1:])[:,1:].astype(float)#连环操作 先取行 转numpy #再取列 转float

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
然后这里要介绍一个取最相关列的操作。 上面的数据我们知道有95列,可是,这90多列,每一列都与结果是相关的吗? 恐怕不一定,肯定有些特征卵用没有。所以我们这里可以找到那些相关的列,用这些特征来预测结果。找特征有很多方法,大家可以百度特征选择,有很多介绍。这里用的是SelectKBest 函数。顺便定义了一个挑特征的函数。column是第一行的特征名称,我传入是为了打印看看是哪些特征重要,要不然他挑了半天我也不知道啊 。k是挑多少个特征。

def get_feature_importance(feature_data, label_data, k =4,column = None): """ 此处省略 feature_data, label_data 的生成代码。 如果是 CSV 文件,可通过 read_csv() 函数获得特征和标签。 """ model = SelectKBest(chi2, k=k)#选择k个最佳特征 X_new = model.fit_transform(feature_data, label_data) #feature_data是特征数据,label_data是标签数据,该函数可以选择出k个特征 print('x_new', X_new) scores = model.scores_ # 按重要性排序,选出最重要的 k 个 indices = np.argsort(scores)[::-1] #找到重要K个的下标 if column: k_best_features = [column[i+1] for i in indices[0:k].tolist()] print('k best features are: ',k_best_features) return X_new, indices[0:k]

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
找好特征后。我们还需要进行训练集和验证集的划分。 我们知道,kaggle下下来只有训练集和测试集,所以我们需要从训练集里分出来一个验证集来作为模型评价。 方法可以是直接截一段,也可以是逢几个挑一个,也可以是随机的。我这里是逢5挑1
if mode == 'train': indices = [i for i in range(len(csv_data)) if i % 5 != 0] self.y = torch.LongTensor(csv_data[indices,-1]) elif mode == 'val': indices = [i for i in range(len(csv_data)) if i % 5 == 0] # data = https://www.it610.com/article/torch.tensor(csv_data[indices,col_indices]) self.y = torch.LongTensor(csv_data[indices,-1]) else: indices = [i for i in range(len(csv_data))] #这是测试数据 不需要标签 也没有标签

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
取完数据后,一般还要有一个归一化的步骤,防止各个特征的数量级相差过于大。这里用的是Z-score标准化方法。减均值除以标准差
self.data = https://www.it610.com/article/(self.data - self.data.mean(dim=0,keepdim=True)) /self.data.std(dim=0,keepdim=True)#这里将数据归一化。

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
综上所述,我们可以写出我们的dataset函数了。基本上大部分神经网络都是需要读数据这部分的,过程就是把数据从本地文件,读入dataset中去。dataset中一般有三个函数,第一个是初始化__init__:一般负责把数据从文件取出来。第二个获取数据__getitem__, 负责读第几个数据。第三个获取长度__len__: 负责返回数据集的长度。
一个完整的从csv到可以用的dataset的 代码如下图所示。 这一部分被我放在model——utils的data模块里。
完整代码:
import numpy as np from torch.utils.data import Dataset,DataLoader import csv import torch from sklearn.feature_selection import SelectKBest from sklearn.feature_selection import chi2def get_feature_importance(feature_data, label_data, k =4,column = None): """ 此处省略 feature_data, label_data 的生成代码。 如果是 CSV 文件,可通过 read_csv() 函数获得特征和标签。 """ model = SelectKBest(chi2, k=k)#选择k个最佳特征 X_new = model.fit_transform(feature_data, label_data) #feature_data是特征数据,label_data是标签数据,该函数可以选择出k个特征 print('x_new', X_new) scores = model.scores_ # 按重要性排序,选出最重要的 k 个 indices = np.argsort(scores)[::-1] #找到重要K个的下标 if column: k_best_features = [column[i+1] for i in indices[0:k].tolist()] print('k best features are: ',k_best_features) return X_new, indices[0:k]class covidDataset(Dataset): def __init__(self, path, mode, feature_dim): with open(path,'r') as f: csv_data = https://www.it610.com/article/list(csv.reader(f)) column = csv_data[0] train_x = np.array(csv_data)[1:][:,1:-1] train_y = np.array(csv_data)[1:][:,-1] _,col_indices = get_feature_importance(train_x,train_y,feature_dim,column) col_indices = col_indices.tolist()#得到重要列的下标 csv_data = np.array(csv_data[1:])[:,1:].astype(float) if mode =='train':#如果读的是训练数据 就逢5取4indices是数据下标 indices = [i for i in range(len(csv_data)) if i % 5 != 0] self.y = torch.LongTensor(csv_data[indices,-1]) elif mode == 'val':#如果读的是验证数据 就逢5取1indices是数据下标 indices = [i for i in range(len(csv_data)) if i % 5 == 0] # data = https://www.it610.com/article/torch.tensor(csv_data[indices,col_indices]) self.y = torch.LongTensor(csv_data[indices,-1]) else:#如果读的是测试数据 就全取了 indices = [i for i in range(len(csv_data))] data = torch.tensor(csv_data[indices,:]) #取行 self.data = data[:,col_indices]#取列 self.mode = mode self.data = (self.data - self.data.mean(dim=0,keepdim=True)) /self.data.std(dim=0,keepdim=True)#这里将数据归一化。 assert feature_dim == self.data.shape[1]print('Finished reading the {} set of COVID19 Dataset ({} samples found, each dim = {})' .format(mode, len(self.data), feature_dim))def __getitem__(self, item): if self.mode == 'test': return self.data[item].float() else : return self.data[item].float(), self.y[item] def __len__(self): return len(self.data)

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片

二 模型设计。 数据都读完了,接下来肯定是模型了 。当然这里是一个简单的回归模型我用两个全连接实现的,中间加了一个relu。inDim是传入的参数 ,就是上面我们挑选的重要特征的数量啦。这部分比较简单,一般模型都是包括这两个部分 __init__和forward也就是初始化和前向传播。初始化中会定义前向传播里需要的模型模块。前向传播里就是输入到输出的流动了 。x是输入的张量,最后输出模型计算结果。 模型也非常简单。
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
?

注意网络一般都是按batch大小计算的。我举个例子。 假如我挑了4个特征,那么模型输入长度就是4,输出长度就是1(回归值) 。假如我16个数据1批次, 输入大小就是(16,4) 输出就是(16,1) 这都是自动的 不用我们担心。这一部分被我放在model_utils的model模块里。
完整代码:
import torch.nn as nnclass myNet(nn.Module): def __init__(self,inDim): super(myNet,self).__init__() self.fc1 = nn.Linear(inDim, 64) self.relu = nn.ReLU() self.fc2 = nn.Linear(64,1)def forward(self, x): x = self.fc1(x) x = self.relu(x) x = self.fc2(x) if len(x.size()) > 1: return x.squeeze(1)#如果批量大小不为1 这里才需要展平。 else: return x

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
【2022李宏毅作业hw1—新冠阳性人员数量预测。】
三训练步骤。 训练函数推荐大家自己定义一个的,这样以后面对大部分问题都可以通用。
这个是训练的过程 都是很常规的步骤。
for i in range(epoch): start_time = time.time() model.train()#开启训练 train_loss = 0.0 val_loss = 0.0 for data in trainloader: optimizer.zero_grad() x , target = data[0].to(device), data[1].to(torch.float32).to(device) #从loader里取一批数据 pred = model(x)#经过模型预测 bat_loss = loss(pred, target, model)#计算loss bat_loss.backward()#梯度回传 optimizer.step()#计算 train_loss += bat_loss.detach().cpu().item()#记录loss值 注意要从gpu上取下来 #再从张量里取出来plt_train_loss . append(train_loss/trainset.__len__())#记录

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
每一个epoch里还有验证步骤。参照训练可以看到每一步的作用。多了一个保存模型的步骤。保存loss最低时的那个模型。

model.eval() with torch.no_grad(): for data in valloader: val_x , val_target = data[0].to(device), data[1].to(device) val_pred = model(val_x) val_bat_loss = loss(val_pred, val_target, model) val_loss += val_bat_loss val_rel.append(val_pred) if val_loss < min_val_loss: min_val_loss = val_loss torch.save(model, save_)plt_val_loss . append(val_loss/valloader.__len__())

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片

还有绘图: 画出loss的变化情况。
plt.plot(plt_train_loss) plt.plot(plt_val_loss) plt.title('loss') plt.legend(['train', 'val']) plt.show()

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
完整的训练代码:这一部分被我放在model_utils的train模块里。
import torch import time import matplotlib.pyplot as pltdef train_val(model, trainloader, valloader,optimizer, loss, epoch, device, save_):# trainloader = DataLoader(trainset,batch_size=batch,shuffle=True) # valloader = DataLoader(valset,batch_size=batch,shuffle=True) model = model.to(device) plt_train_loss = [] plt_val_loss = [] val_rel = [] min_val_loss = 100000for i in range(epoch): start_time = time.time() model.train() train_loss = 0.0 val_loss = 0.0 for data in trainloader: optimizer.zero_grad() x , target = data[0].to(device), data[1].to(torch.float32).to(device) pred = model(x) bat_loss = loss(pred, target, model) bat_loss.backward() optimizer.step() train_loss += bat_loss.detach().cpu().item()plt_train_loss . append(train_loss/trainloader.__len__())model.eval() with torch.no_grad():#验证时 不计算梯度 for data in valloader: val_x , val_target = data[0].to(device), data[1].to(device) val_pred = model(val_x) val_bat_loss = loss(val_pred, val_target, model) val_loss += val_bat_loss val_rel.append(val_pred) if val_loss < min_val_loss: torch.save(model, save_) min_val_loss = val_loss plt_val_loss . append(val_loss/valloader.__len__())print('[%03d/%03d] %2.2f sec(s) TrainLoss : %3.6f | valLoss: %3.6f' % \ (i, epoch, time.time()-start_time, plt_train_loss[-1], plt_val_loss[-1]) )plt.plot(plt_train_loss) plt.plot(plt_val_loss) plt.title('loss') plt.legend(['train', 'val']) plt.show()

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
四:测试和保存步骤 。 测试和验证时很相似的。 少的是预测值和真值的比较,因为没有真值 ,多的是预测值得保存。按照kaggle要求保存在csv里 。这一部分被我放在model_utils的evaluate模块里。
完整代码:
import numpy as np import torch from torch.utils.data importDataLoaderimport csvdef evaluate(model_path, testset, rel_path ,device): model = torch.load(model_path).to(device) testloader = DataLoader(testset,batch_size=1,shuffle=False)#放入loader 其实可能没必要 loader作用就是把数据形成批次而已 val_rel = [] model.eval() with torch.no_grad(): for data in testloader: x= data.to(device) pred = model(x) val_rel.append(pred.item()) print(val_rel) with open(rel_path, 'w') as f: csv_writer = csv.writer(f)#百度的csv写法 csv_writer.writerow(['id','tested_positive']) for i in range(len(testset)): csv_writer.writerow([str(i),str(val_rel[i])])

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片

五 : 主函数。 万事俱备,只欠东风。就像人的四肢脑袋都齐了,就差个body把他们连起来了,起这个作用的 就是main函数。
调包第一步 除了系统包 还有自己写的

from model_utils.model import myNet from model_utils.data import covidDataset from model_utils.train import train_val from model_utils.evaluate import evaluate from torch import optim import torch.nn as nn import torch from torch.utils.data import Dataset,DataLoader

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
路径和设备 以及一些超参。 在这里 我尝试将一些超参放入字典中。
device = 'cuda' if torch.cuda.is_available() else 'cpu'#设备一般gpu 没有就cpu train_path = 'covid.train.csv'#训练数据路径 test_path = 'covid.test.csv'#测试数据路径feature_dim = 6#重要的特征数 trainset = covidDataset(train_path,'train',feature_dim=feature_dim) valset = covidDataset(train_path,'val',feature_dim=feature_dim) testset = covidDataset(test_path,'test',feature_dim=feature_dim) #对照数据部分 读取了三个数据setconfig = { 'n_epochs': 2000,# maximum number of epochs 'batch_size': 270,# mini-batch size for dataloader 'optimizer': 'SGD',# optimization algorithm (optimizer in torch.optim) 'optim_hparas': {# hyper-parameters for the optimizer (depends on which optimizer you are using) 'lr': 0.0001,# learning rate of SGD 'momentum': 0.9# momentum for SGD }, 'save_path': 'model_save/model.pth',# your model will be saved here }#一些超参数比如epochbatchsize lr 等等。

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
定义loss这里采用了mseloss 然后还加上了正则化
def getLoss(pred, target, model): loss = nn.MSELoss(reduction='mean') ''' Calculate loss ''' regularization_loss = 0 for param in model.parameters(): # 使用L2正则项 regularization_loss += torch.sum(param ** 2) return loss(pred, target) + 0.00075 * regularization_lossloss =getLoss

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
定义model和优化器 以及数据传入loader 前面说过这是为了批量处理
model = myNet(feature_dim).to(device) optimizer = optim.SGD(model.parameters(), lr=0.001,momentum=0.9)trainloader = DataLoader(trainset,batch_size=config['batch_size'],shuffle=True) valloader = DataLoader(valset,batch_size=config['batch_size'],shuffle=True)

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
训练和测试
train_val(model, trainloader,valloader,optimizer, loss, config['n_epochs'],device,save_=config['save_path']) evaluate(config['save_path'], testset, 'pred.csv',device)

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片

完整代码:
from model_utils.model import myNet from model_utils.data import covidDataset from model_utils.train import train_val from model_utils.evaluate import evaluate from torch import optim import torch.nn as nn import torch from torch.utils.data import Dataset,DataLoaderdevice = 'cuda' if torch.cuda.is_available() else 'cpu' train_path = 'covid.train.csv' test_path = 'covid.test.csv'feature_dim = 6 trainset = covidDataset(train_path,'train',feature_dim=feature_dim) valset = covidDataset(train_path,'val',feature_dim=feature_dim) testset = covidDataset(test_path,'test',feature_dim=feature_dim)config = { 'n_epochs': 2000,# maximum number of epochs 'batch_size': 270,# mini-batch size for dataloader 'optimizer': 'SGD',# optimization algorithm (optimizer in torch.optim) 'optim_hparas': {# hyper-parameters for the optimizer (depends on which optimizer you are using) 'lr': 0.0001,# learning rate of SGD 'momentum': 0.9# momentum for SGD }, 'early_stop': 200,# early stopping epochs (the number epochs since your model's last improvement) 'save_path': 'model_save/model.pth',# your model will be saved here }def getLoss(pred, target, model): loss = nn.MSELoss(reduction='mean') ''' Calculate loss ''' regularization_loss = 0 for param in model.parameters(): # TODO: you may implement L1/L2 regularization here # 使用L2正则项 # regularization_loss += torch.sum(abs(param)) regularization_loss += torch.sum(param ** 2) return loss(pred, target) + 0.00075 * regularization_lossloss =getLossmodel = myNet(feature_dim).to(device) optimizer = optim.SGD(model.parameters(), lr=0.001,momentum=0.9)trainloader = DataLoader(trainset,batch_size=config['batch_size'],shuffle=True) valloader = DataLoader(valset,batch_size=config['batch_size'],shuffle=True)train_val(model, trainloader,valloader,optimizer, loss, config['n_epochs'],device,save_=config['save_path']) evaluate(config['save_path'], testset, 'pred.csv',device)

2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片

事后: 运行主函数 我们将得到 pred.csv。这就是我们得预测结果啦。打开kaggle网址项目所在页, 注册,点击late submission 提交你的pred.csv文件吧。 这也是我第一次用kaggle。 好像我的得分也很低。大家如果想得一个比较高得分,可以多调调超参和模型。fighting!!!2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
2022李宏毅作业hw1—新冠阳性人员数量预测。
文章图片
?


李宏毅老师前年课程的第一个作业也是回归,不过不是新冠。当时我啥都不会写,把网上得copy下来,一步一步调试才慢慢懂一点点。 这次第二次做回归,只能说比第一次熟练了很多,虽然还是不能全部一个人写下来。 写这个文章,与大家共勉。



?

    推荐阅读