无约束优化--实践

栏目: IT技术 · 发布时间: 4年前

内容简介:假设满足如下方程f(x,y) = x² + 3y²需要求得改方程的最小值

假设满足如下方程

f(x,y) = x² + 3y²

需要求得改方程的最小值

使用梯度下降法进行求解

无约束优化--实践

我们使用MATLAB 进行一个梯度下降求解

一些初始化代码

x=-3:0.1:3;
y=-3:0.1:3;
[X,Y]=meshgrid(x,y); 
fsurf=X.^2+3*Y.^2;
surf(X,Y,fsurf),hold on;
clear x;
clear y;
x(1) = 3; y(1) = 2; %guess
f(1) = x(1)^2+3*y(1)^2; %init value
plot3(x,y,f,'ko','Linewidth',[3])

然后根据我们上面推导的公式进行一个循环迭代

我们循环迭代1000 次 如果当我们发现 误差在我们的接受范围我们就可以停止 break

for j=1:1000
 tau = (x(j)^2+9*y(j)^2) / (2*x(j)^2+54*y(j)^2);
 x(j+1) = (1-2*tau)*x(j);
 y(j+1) = (1-6*tau)*y(j);
 f(j+1) = x(j+1)^2+3*y(j+1)^2;
 
 plot3(x(j+1),y(j+1),f(j+1),'ko','Linewidth',[3]);
 
 pause(2);
 
 if abs(f(j+1)-f(j)) < 10^(-6)
 break;
 end
end

最后的结果路径就为我们红色线那样step by step 走到一个合理区域

无约束优化--实践

最小二乘法

与该方法类同有一个 最小二乘法 这里使用淘宝双十一 数据作为一个拟合

数据分别是 淘宝这几年 双11 的成交数据 单位都是 RMB 亿元

时间是从2009-2019 年这个时间

y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]

当我们把这些数据放在坐标轴上面观察的时候,直觉上的就觉得他是一个指数函数

无约束优化--实践

所以我们的一个目标函数就是 ax^2+b ,a 为扩展系统,b 为一个截距在ax+b 中的b 一样的效果

最小二乘法 就是我们 loss = ∑ ( f(x) - y)² 求解他的最小值 其中 f(x)是 我们假定他的函数 y 为真是的函数的数值 (在上图中横坐标就是年份第一年.第二年,纵坐标就是成交和GMV,也即是我们y 值)

1: 我们定义个我们的目标函数

function E=datafitali(x0,x,y)
A = x0(1); B = x0(2); 
E = sum( (A*x.^2+B-y).^2 )
2:我们使用fminsarch 结果进行最优化
x = 1:11
y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]
 
A = 1;
B = 1;
 
 
plot(x,y,'ko'),hold on
 
 
 
 coeff = fminsearch('datafitali',[A B],[],x,y);
 A1 = coeff(1) ; B1 = coeff(2);
 f2 = A1 * x.^2+B1
 
 plot(x,f2,'g’);

基本上是符合一个指数增长的,这条曲线确实挺完美的 !

无约束优化--实践


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

深入浅出SQL(中文版)

深入浅出SQL(中文版)

贝里 编 / O‘Reilly Taiwan公司 / 东南大学 / 2009-6 / 98.00元

你将从《深入浅出SQL(中文版)》学到什么?在如今的世界,数据就是力量,但是成功的真正秘诀却是管理你的数据的力量。《深入浅出SQL(中文版)》带你进入SQL语言的心脏地带,从使用INSERT和SELECT这些基本的查询语法到使用子查询(subquery)、连接(join)和事务(transaction)这样的核心技术来操作数据库。到读完《深入浅出SQL(中文版)》之时,你将不仅能够理解高效数据库设......一起来看看 《深入浅出SQL(中文版)》 这本书的介绍吧!

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具