（無約束優化問題）最優化方法理論總結1

-----------------------------------------------------

本文中的目標函數都是求：

無約束情況下的 min f(x),其中x是一個向量。

------------------------ -----------------------------

主要核心如下：

演算法思想

演算法和其他演算法的比較

演算法優缺點

演算法的收斂性判斷

演算法matlab舉例實現

------------------第一章 一維搜索---------開始----

摘要： 一維搜索是n維搜索的基礎，n維搜索看成重複n次一維搜索。這一章先介紹了一維搜索的定義和思想，引出了精確搜索的搜索區間，根據不同方法來縮小最優的區間，介紹了進退法、黃金分割法、拋物線法等3種縮小搜索區間的方法。此外，非精確搜索也有相應的方法，介紹了armijozz準則。

-----------------------------------------------------

1. 一維搜索

一維搜索的定義(思想）>>>搜索區間>>>

一維搜索是n維搜索的基礎，本文章的各種最有理論演算法的基礎都是一維搜索，因此一維搜索非常重要。一維搜索可以分為精確搜索和非精確搜索兩種。

-----------------------------------------------------

1.1一維精確搜索

-----------------------------------------------------

1.2一維非精確搜索

精確搜索需要計算很多的函數值和梯度值，而且耗費較大的計算資源，特別是當迭代點遠離主要點時，精確線性搜索通常不是十分有效和合理。

-----------------------------------------------------

1.2.1 armijozz準則

滿足函數值下降。

-----------------------------------------------------

1.3精確搜索----搜索區間確立

-----------------------------------------------------

1.3.1進退法-----搜索區間確立

演算法

上面的演算法可能很抽象，為了幫助讀者理解，又把另外一本書上關於進退法的演算法介紹貼上來了，這本書給了一個例子和matlab編程

-----------------------------------------------------

1.3.2黃金分割法-----搜索區間確立

-----------------------------------------------------

1.3.3二次插值法（拋物線法）-----搜索區間確立

------------------第一章 一維搜索---------結束----