无约束优化--实践

栏目: IT技术 · 发布时间: 4年前

内容简介:假设满足如下方程f(x,y) = x² + 3y²需要求得改方程的最小值

假设满足如下方程

f(x,y) = x² + 3y²

需要求得改方程的最小值

使用梯度下降法进行求解

无约束优化--实践

我们使用MATLAB 进行一个梯度下降求解

一些初始化代码

x=-3:0.1:3;
y=-3:0.1:3;
[X,Y]=meshgrid(x,y); 
fsurf=X.^2+3*Y.^2;
surf(X,Y,fsurf),hold on;
clear x;
clear y;
x(1) = 3; y(1) = 2; %guess
f(1) = x(1)^2+3*y(1)^2; %init value
plot3(x,y,f,'ko','Linewidth',[3])

然后根据我们上面推导的公式进行一个循环迭代

我们循环迭代1000 次 如果当我们发现 误差在我们的接受范围我们就可以停止 break

for j=1:1000
 tau = (x(j)^2+9*y(j)^2) / (2*x(j)^2+54*y(j)^2);
 x(j+1) = (1-2*tau)*x(j);
 y(j+1) = (1-6*tau)*y(j);
 f(j+1) = x(j+1)^2+3*y(j+1)^2;
 
 plot3(x(j+1),y(j+1),f(j+1),'ko','Linewidth',[3]);
 
 pause(2);
 
 if abs(f(j+1)-f(j)) < 10^(-6)
 break;
 end
end

最后的结果路径就为我们红色线那样step by step 走到一个合理区域

无约束优化--实践

最小二乘法

与该方法类同有一个 最小二乘法 这里使用淘宝双十一 数据作为一个拟合

数据分别是 淘宝这几年 双11 的成交数据 单位都是 RMB 亿元

时间是从2009-2019 年这个时间

y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]

当我们把这些数据放在坐标轴上面观察的时候,直觉上的就觉得他是一个指数函数

无约束优化--实践

所以我们的一个目标函数就是 ax^2+b ,a 为扩展系统,b 为一个截距在ax+b 中的b 一样的效果

最小二乘法 就是我们 loss = ∑ ( f(x) - y)² 求解他的最小值 其中 f(x)是 我们假定他的函数 y 为真是的函数的数值 (在上图中横坐标就是年份第一年.第二年,纵坐标就是成交和GMV,也即是我们y 值)

1: 我们定义个我们的目标函数

function E=datafitali(x0,x,y)
A = x0(1); B = x0(2); 
E = sum( (A*x.^2+B-y).^2 )
2:我们使用fminsarch 结果进行最优化
x = 1:11
y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]
 
A = 1;
B = 1;
 
 
plot(x,y,'ko'),hold on
 
 
 
 coeff = fminsearch('datafitali',[A B],[],x,y);
 A1 = coeff(1) ; B1 = coeff(2);
 f2 = A1 * x.^2+B1
 
 plot(x,f2,'g’);

基本上是符合一个指数增长的,这条曲线确实挺完美的 !

无约束优化--实践


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

当下的冲击

当下的冲击

道格拉斯•洛西科夫 (Douglas Rushkoff) / 孙浩 赵晖 / 中信出版社 / 2013-10-1 / 59.00元

这是一个并不符合人本能的社会…… 为什么我们不应该更注重生活的质量而非速度? 为什么我们不用面对面的交流代替冷冰冰电脑屏幕上的文字代码? 为什么我们不可以选择一个虽然有缺陷但有血有肉的人类社会,而非一个虽趋于完美但冷漠的数字世界? 在当下的冲击面前,你正变得越来越弱智:你没有了自己的独特空间,你过多地相信真人秀节目,你成了数字化产品的奴隶并得了数字化精神病,你的生物钟也被打......一起来看看 《当下的冲击》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具