文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Python线性回归分析

2023-06-25 14:01

关注

这篇文章主要介绍“Python线性回归分析”,在日常操作中,相信很多人在Python线性回归分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Python线性回归分析”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

线性回归

线性回归是机器学习和统计学中最基础和最广泛应用的模型,是一种对自变量和因变量之间关系进行建模的回归分析。

代码概述

本次实现的线性回归为单变量的简单线性回归,模型中含有两个参数:变量系数w、偏置q。

训练数据为自己使用随机数生成的100个随机数据并将其保存在数组中。采用批量梯度下降法训练模型,损失函数使用平方损失函数。

Python线性回归分析

上图为整个程序的函数调用关系。

下面贴代码:

#include<stdio.h>#include<stdlib.h>#include<math.h>#include<time.h> double w, q;int m;//模型float Model(float x){float y;y = x * w + q;return y;} //损失函数double Loss(float *y,float *x){double L=0;//循环参数int i, j, k;for (i = 0; i < m; i++){L += (pow((y[i] - Model(x[i])), 2)) / (2 * m);}return L; } //梯度下降优化函数void Gradient_Descent_Optimizer(float *x,float *y,float a){int j, i;double Q = 0, W = 0;for (i = 0; i < m; i++)W += x[i] * (Model(x[i]) - y[i]);W = W / m;for (j = 0; j < m; j++)Q += Model(x[j]) - y[j];Q = Q / m;printf("W:%f\nQ:%f\n", W, Q);w = w - a * W;q = q - a * Q;} //主函数;训练过程int main(){//循环标志int i, j;//训练轮次int epoch;//损失函数double L;//学习率float a;float x[100], y[100];//随机数生成for (i = 0; i < 100; i++){x[i] = 0.1*i;y[i] = x[i] * 3 + 5; //+ ((rand() % 11) / 10);printf("X:%.2f,Y:%.2f\n", x[i], y[i]);}//超参数设置m = 100;a = 0.05;epoch = 1000;//参数初始化w = 2;q = 3;for (j = 0; j < epoch; j++){Gradient_Descent_Optimizer(x, y, a);L = Loss(y, x);printf("训练轮次:%d,损失:%f,参数w的值:%lf,参数q的值:%lf\n", j+1, L, w, q);}printf("最终值:\nw:%lf\nq:%lf\n", w, q);system("pause");}

问题总结

下面对在编写过程中需要注意的问题进行总结:

1.参数更新

模型中的参数需要同步更新。所有参数的更新值经过梯度下降法计算得出后要在最后同时更新所有参数。

2.保留损失函数

在代码编写过程中自己认为不用单独写一个损失函数,只需在梯度下降的过程中利用求导后的公式进行相关的参数优化操作即可,但在运行没有算是函数的程序时,没有实时的损失函数结果评估模型训练效果可能会导致模型在错误的道路上越走越远。

3.注意数据类型

初次运行程序,在训练至十几轮时参数就不再变化,一直到第1000轮参数都保持不变。后来在检查代码时发现,在优化函数将一些参数的数据类型错误设置为整型。因此当参数值改变程度小于1时,参数将不再变化。

4.超参数的设置及参数的初始化

学习率,训练轮次等的设置是一个对程序编写者经验要求比较高的工作,需要多次尝试,找到合适的值,参数的初始化也是这样。

心得

本次只是实现了简单线性回归的最基本的功能,同时也试一下自己刚买的机械键盘(用起来真的很舒服)。这只是我用来练手的程序,如果真的要编写程序实现功能还是推荐使用python语言搭配TensorFlow、Pytorch等深度学习平台实现自己想要的功能。程序的可完善空间非常大,比如数据和模型的可视化,将数据和模型的训练效果直观的展示出来,后面还会有序的用C语言实现诸如多元线性回归,二分类问题,多分类问题甚至卷积神经网络等等。我会在下面贴出使用Python语言编写的线性回归的程序,可以两者结合起来比较一下异同。

# -*- coding: utf-8 -*-"""Spyder EditorThis is a temporary script file."""import matplotlib.pyplot as pltimport tensorflow as tfimport numpy as np np.random.seed(5) x_data = np.linspace(-1,1,100)y_data = 2 * x_data + 1.0 + np.random.randn(*x_data.shape) * 0.4 np.random.randn(10) #x_data.shape #np.random.randn(*x_data.shape)#np.random.randn(100)plt.scatter(x_data,y_data)plt.plot(x_data, 2 * x_data + 1.0, color = 'red',linewidth=3) x = tf.placeholder("float",name="x")y = tf.placeholder("float",name="y") def model(x,w,b):    return tf.multiply(x,w)+b w = tf.Variable(1.0,name="w0")b = tf.Variable(0.0,name="b0") pred = model(x,w,b) train_epochs = 10learning_rate = 0.05 loss_function = tf.reduce_mean(tf.square(y-pred)) optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function) sess = tf.Session() init = tf.global_variables_initializer()sess.run(init) i_ci=0 for epoch in range(train_epochs):    for xs,ys in zip(x_data,y_data):        _, loss=sess.run([optimizer,loss_function],feed_dict={x:xs,y:ys})        b0temp=b.eval(session=sess)        w0temp=w.eval(session=sess)    plt.plot(x_data,w0temp*x_data+b0temp)        print("w:",sess.run(w))print("b:",sess.run(b)) plt.scatter(x_data,y_data,label='Original data')plt.plot(x_data,x_data*sess.run(w)+sess.run(b),label='Fitted Line',color='r',linewidth=3)plt.legend(loc=2)

到此,关于“Python线性回归分析”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯