python实现梯度下降法

更新时间：2020年03月24日 11:56:16 作者：u011021024

这篇文章主要为大家详细介绍了python实现梯度下降法，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下

本文实例为大家分享了python实现梯度下降法的具体代码，供大家参考，具体内容如下

使用工具：Python（x,y） 2.6.6
运行环境：Windows10

问题：求解y=2*x1+x2+3，即使用梯度下降法求解y=a*x1+b*x2+c中参数a，b，c的最优值（监督学习）

训练数据：

x_train=[1, 2], [2, 1],[2, 3], [3, 5], [1,3], [4, 2], [7, 3], [4, 5], [11, 3], [8, 7]

y_train=[7, 8, 10, 14, 8, 13, 20, 16, 28,26]

测试数据：

x_test = [1, 4],[2, 2],[2, 5],[5, 3],[1,5],[4, 1]

# -*- coding: utf-8 -*-
"""
Created on Wed Nov 16 09:37:03 2016
@author: Jason
"""
 
import numpy as np
import matplotlib.pyplot as plt
 
# y=2 * (x1) + (x2) + 3 
 
rate = 0.001
x_train = np.array([[1, 2], [2, 1],[2, 3], [3, 5], [1, 3], [4, 2], [7, 3], [4, 5], [11, 3], [8, 7] ])
y_train = np.array([7, 8, 10, 14, 8, 13, 20, 16, 28, 26])
x_test = np.array([[1, 4],[2, 2],[2, 5],[5, 3],[1, 5],[4, 1]])
 
a = np.random.normal()
b = np.random.normal()
c = np.random.normal()
 
def h(x):
 return a*x[0]+b*x[1]+c
 
for i in range(100):
 sum_a=0
 sum_b=0
 sum_c=0
 
 for x, y in zip(x_train, y_train):  
  for xi in x:
   sum_a = sum_a+ rate*(y-h(x))*xi
   sum_b = sum_b+ rate*(y-h(x))*xi
   #sum_c = sum_c + rate*(y-h(x)) *1   
   
   a = a + sum_a
   b = b + sum_b
   c = c + sum_c
   plt.plot([h(xi) for xi in x_test])
 
 
print(a)
print(b)
print(c)
 
result=[h(xi) for xi in x_train]
print(result)
 
result=[h(xi) for xi in x_test]
print(result)
 
plt.show()

运行结果：

结论：线段是在逐渐逼近的，训练数据越多，迭代次数越多就越逼近真实值。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

Python中栈的详细介绍
这篇文章主要介绍的是Python中栈，栈(stacks)是一种只能通过访问其一端来实现数据存储与检索的线性数据结构，具有后进先出(last in first out，LIFO)的特征，下面来看看文章的具体举例介绍,需要的朋友可以参考一下
2021-11-11
python生成可执行exe控制Microsip自动填写号码并拨打功能
这篇文章主要介绍了python生成可执行exe控制Microsip自动填写号码并拨打,在这需要注意一个问题，必须是已经运行Microsip.exe文件，具体实现代码跟随小编一起看看吧
2021-06-06
python lambda表达式在sort函数中的使用详解
这篇文章主要介绍了python lambda表达式在sort函数中的使用详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
2019-08-08
Python中shapefile转换geojson的示例
今天小编就为大家分享一篇关于Python中shapefile转换geojson的示例，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧
2019-01-01
详解Pytorch中的tensor数据结构
torch.Tensor 是一种包含单一数据类型元素的多维矩阵，类似于 numpy 的 array，这篇文章主要介绍了Pytorch中的tensor数据结构,需要的朋友可以参考下
2022-09-09
对pandas的dataframe绘图并保存的实现方法
下面小编就为大家带来一篇对pandas的dataframe绘图并保存的实现方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
2017-08-08
Python爬虫爬取百度搜索内容代码实例
这篇文章主要介绍了Python爬虫爬取百度搜索内容代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
2020-06-06
如何利用python正确地为图像添加高斯噪声
这篇文章主要给大家介绍了关于如何利用python正确地为图像添加高斯噪声的相关资料,需要的朋友可以参考下
2022-03-03
Python pygame新手入门基础教程
大家都知道pygame是跨平台Python模块,专为电子游戏设计,包含图像、声音,这篇文章主要给大家介绍了关于Python pygame新手入门基础教程的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
2022-07-07
pandas返回缺失值位置的方法实例教程
当我们用python进行数据处理时会遇到很多缺失值,缺失值一般是由于我们所处理的数据本身的特性、当初录入的失误或者其它原因导致的,下面这篇文章主要给大家介绍了关于pandas返回缺失值位置的方法,需要的朋友可以参考下
2022-01-01