作者：孤筝（lvbowen040427@163.com）

最佳化問題

數學模型

其中，

• $\vec{x}=(x_1,x_2,\cdots,x_n)^T$ 稱為決策變數
• $f(\vec{x})$ 稱為目標函數
• s.t.（subject to，受限於），稱為約束條件

分類

1. 時間
   1. 靜態問題
   2. 動態問題
2. 約束條件
   1. 有約束問題
   2. 無約束問題
3. 目標函數與約束條件是否為線性函數
   1. 線性規劃
   2. 非線性規劃
4. 目標函數與約束條件是否為凸函數
   1. 凸最佳化問題
   2. 非凸最佳化問題

二次型矩陣

二次型：

二次型矩陣：

Hessen 矩陣

以二元二次函數為例：

可行解

• 可行解：滿足所有約束條件的解。
• 可行集（容許集、可行域）：所有可行解所構成的集合。
• 最佳化問題：在可行集中找出使目標函數取得最大值或最小值的點。
• 駐點：$\nabla f(x_0)=0$，稱 $x_0$ 為駐點。
• 鞍點：$x_0$ 為駐點，但不是極值點時，稱為鞍點。

凸集

定義

在平面中，若一個圖形內部任意兩點的連線仍位於圖形內部，則該圖形稱為凸集。

性質

1. 凸集的交集仍為凸集
2. 凸集按比例縮放後仍為凸集
3. 凸集的和集（不是並集）是凸集
   • 設 $D_1,D_2$ 是凸集，則 $D_1+D_2=\{z|z=x+y,x \in D_1,y \in D_2\}$ 是凸集。
4. 凸集的線性組合是凸集。

常見凸集

1. 空集
2. 整個歐氏空間 $\vec{R^n}$
3. 超平面 $H=\{x \in \vec{R^n} | a_1x_1+a_2x_2+\cdots +a_nx_n=b\}$
4. 半空間 $H^+=\{x \in \vec{R^n} | a_1x_1+a_2x_2+\cdots +a_nx_n \ge b\}$

凸組合

設 $x_i \in \vec{R^n},i=1,2,\cdots ,k$，實數 $\lambda_i \ge 0,\sum^k_{i=1}\lambda_i=1$，則 $x=\sum^k_{i=1}\lambda_ix_i$ 稱為 $x_1,x_2,\cdots , x_k$ 的凸組合。
凸集中任意有限個點的凸組合仍然在該凸集中。

極點

設 $D$ 為凸集，$x \in D$，若 $D$ 中不存在兩個相異的點 $y,z$ 及某個實數 $\alpha \in (0,1)$ 使得 $x=\alpha y+(1-\alpha)z$，則稱 $x$ 為 $D$ 的極點。

人話：以平面五邊形為例，極點就是它的頂點；以半圓形為例，極點則是直徑的兩個端點以及半圓弧上的尖端。

凸函數

定義

定義在某個凸集上的函數 $f(x)$，若對凸集內任意兩點 $x_1,x_2$ 都有

則稱該函數為凸函數。
若不等號為嚴格小於號 $\lt$，則稱為嚴格凸函數。

判斷

1. 多元函數的 Hessen 矩陣為半正定矩陣——>多元函數是凸函數。
2. 多元函數的 Hessen 矩陣為正定矩陣——>多元函數是嚴格凸函數。
3. 多元線性（一次）函數是 $\vec{R^n}$ 上的凸函數。

凸最佳化問題

定義

目標函數與約束函數都是凸函數的最佳化問題。

• 凸最佳化的可行集是凸集
• 任何區域最優解都是全域最優解
• 若目標函數是嚴格凸函數，則區域最優解存在且唯一

線性規劃

形式

非標準形式

• 目標函數：$\max z=\sum^{n}_{j=1}c_jx_j=CX$
• 係數矩陣： $$ A= \begin{bmatrix} a_{11} & \cdots & a_{1n}\\ \vdots & \ddots & \vdots\\ a_{m1} & \cdots & a_{mn}\\ \end{bmatrix} =(P_1,P_2,\cdots,P_n) $$
• 資源向量：$b=\begin{bmatrix} b_1\\ \vdots \\ b_m\\ \end{bmatrix}$
• 決策變數向量：$X=(x_1,x_2,\cdots , x_n)^T$
• 約束條件： $$ \begin{cases} \sum^{n}_{j=1}a_{ij}x_j=b_i,&i=1,2,\cdots,m\\ x_j \ge 0,& j=1,2,\cdots,n\\ \end{cases} $$ $$ \begin{cases} AX=b\\ X \ge \vec{0} \end{cases} $$

標準形式

1. 將極大問題轉為極小化
2. 鬆弛變數：對於 $\le$ 約束，引入鬆弛變數使等號成立
3. 剩餘變數：對於 $\ge$ 約束，引入剩餘變數使等號成立
4. 自由變數：在實際問題中可自由取值的變數，記作 $x_i=x'-x''$

基矩陣

• 基（基矩陣）：係數矩陣中的最大非奇異子矩陣。
  • 若係數矩陣 $A$ 為 $m \times n$ 矩陣，且 $rank(A)=m$，則基矩陣為任意 $m \times m$ 的非奇異子矩陣。
• 基變數：基中所有列向量所對應的未知數。
• 非基變數：不屬於基變數的未知數。
• 基本解：令所有非基變數為零所得到的解。
• 非退化基本解：基本解中非零分量個數等於約束方程數。否則稱為退化基本解。
• 基本可行解：滿足 $\text{s.t.}$ 非負條件的基本解。
• 最優基可行解：所有基本可行解中，使函數值達到最優的基可行解。

線性規劃解的性質

1. 線性規劃的可行集是凸集
2. 若有最優解，必定在可行集頂點取得

單純形法

判別數（檢驗數）

每一個未知數都對應一個判別數

• $C^T$ 為目標函數係數
• $C^T_J$ 為基變數在目標函數中的係數
• $P_j$ 表示 $A$ 矩陣第 $j$ 列
• $c_i$ 表示第 $i$ 個基變數在目標函數中的係數
• $c_j$ 表示目標函數中第 $j$ 個變數的係數，與 $c_i$ 無關。

當所有判別數都小於等於零時，基可行解即為最優解。

一般來說，基變數的判別數為零。

基變換

選取基矩陣

優先選取單位矩陣作為基矩陣，先計算初始基可行解與判別數。

畫出初始單純形表

選取合適的進基列

若判別數大於零，則該列有分量大於零，選取該列作為進基列 $P_j$，對應變數為進基變數 $x_j$。

選取主元

在該進基列中挑選大於零的元素 $a_{ij}$，將 $b$ 中對應元素除以所選元素，取比值最小者，該元素 $a_{ij}$ 即為主元。
若判別數大於零，而該列元素全都小於零，則此線性規劃無最優解。

初等列運算

將主元化為 1，並把該列其他係數元素化為 0。
幾何意義：更換可行域頂點。

出基列

根據係數矩陣選取新的基矩陣。與原來的基矩陣相比，被取代的那一列為出基列，對應變數即為出基變數。
接著重新計算判別數，列出新的單純形表。

新一輪基變換

當判別數行發生變化後，如果又出現新的正判別數，就再選取該列作為新的進基列，重新選主元並做初等變換。

結果

當所有判別數都小於等於零時，$\vec{b}$ 中的值就是基變數的值，非基變數取 0，合起來構成最優解，再代回目標函數即可求得最小值。

單純形法適用條件

1. 非齊次項元素非負。
2. 存在可行解。
3. 鬆弛變數與非基變數的值乘積和為零。
4. 問題是凸可行域上的線性規劃問題。
5. 可行解集合有限。

人工變數法

當係數矩陣中不含單位矩陣時，通常採用引入人工變數的方式，人為構造出一個單位矩陣。

設線性規劃問題的約束條件為 $\sum^{n}_{j=1}a_{ij}=b_i(i=1,2,\cdots ,m)$，分別給每個約束條件加入人工變數 $x_{n+1},x_{n+2},\cdots,x_{n+m}$，以其作為基變數（構成單位矩陣），其餘變數置零，即得到一組可行解 $x^{(0)}=(0,0,\cdots,0,b_1,b_2,\cdots,b_m)^T$。
在此基礎上再透過基變換求解，最終得到不含非零人工變數的最優解。

若當所有判別數小於零時，仍有非零人工變數存在，則說明原問題無可行解。

大 M 法

對於最小化問題，在約束條件中加入人工變數後，令人工變數在目標函數中的係數為 $M$（$M \in \vec{R^+}$）。
為了求得最小目標函數值，需要不斷進行基變換，使人工變數取值為 0。對於最大化問題，則取 $M \in \vec{R^-}$。

退化情形

若單純形法陷入循環，而該問題又確有最優解，可透過以下方法避免循環。

攝動法

修正單純形法

線性規劃對偶理論

線性規劃對偶問題形式

對稱形式

原問題

對偶問題

對應關係：

• （1）原問題中的約束條件個數等於其對偶問題中的變數個數；
• （2）原問題目標函數的係數，就是對偶問題中約束條件右端項；
• （3）原問題目標函數為最小化時，對偶問題目標函數為最大化；
• （4）原問題的約束條件為「≥」，則對偶問題的約束條件為「≤」。

非對稱形式

原問題

對偶問題

一般情形

若原問題同時含有 $\le,\ge,=$ 等多種約束，則先引入鬆弛變數與剩餘變數，將約束統一化為 $=$，再用非對稱形式建立對偶問題。

對偶單純形法

• 單純形法：先保證 $\vec{b} \ge 0$，再根據檢驗數 $\le 0$ 迭代。
• 對偶單純形法：先保證檢驗數 $\le 0$，再依據 $\vec{b} \ge 0$ 迭代。

確保檢驗數 $\le 0$

選取出基

若存在 $b_i \lt 0$，則取其中最小的 $\min b_i$ 所在列作為出基列，對應變數為出基變數。

選取進基

將檢驗數除以出基列中為負值的係數（$a_{ij} \lt 0$），取結果最小值所對應的列作為進基列，對應變數為進基變數。

行變換

透過行變換，將進基列變成可匹配基矩陣（單位矩陣）的形式，此時 $\vec{b}$ 也會隨之改變。
重新計算檢驗數，並確保其不大於零。

新一輪基變換

若仍有負值 $b_i \lt 0$，則取最小的 $\min b_i$ 進行下一輪基變換。

結果

當所有 $b_i \ge 0$ 時，$\vec{b}$ 構成基變數的最優解部分，而非基變數部分取 0。
將其代回目標函數即可得到最優值（最大或最小）。

靈敏度分析

本文2025-05-10首發於孤筝の温暖小家，最後修改於2025-05-10

本部落格所有文章除特別聲明外，均採用 BY-NC-SA 授權協議。轉載請註明出處！

作者：孤筝（lvbowen040427@163.com）

前言

第一版前言

[[2024-09-14]] 今天補考終於結束了，聽說正考直接放原卷，這幾天刷了三套網上得來的「西電原卷」（21 年和兩套 23 年）。上午刷的 21 年題，下午 $\frac{1}{4}$ 是一個字不改的原題，我都看笑了。 戴浩當年說盡力給錢班找最好的老師，現在看來數統院沒人了？講課不行可以說是重心不在教學、天賦不在教書；出套卷子直接搬舊題，還是近幾年的，題也沒審錯漏百出，給我氣笑了。 自己出的卷子毫無含金量，自己也不做做看。這是態度問題。 你電期末考試放水挺好的，但不要總是拿老本糊弄人。對學生大談創新，對自己能混就行。這不是做學術的態度，更不是教書應有的態度。

概率論就此告一段落，這兩天反覆看筆記刷題訂正不少錯誤，也明晰了這門課的知識結構。雖然內容仍然偏少，但作為期末複習的材料大抵足夠，這版就作為終版吧（大概）。 中秋繼續整理電動力學和數位信號處理。

第二版前言

Nothing is final!!! ——錢學森

補充了分佈函數左右連續問題，看來這門課離 final 還有很遠……

事件運算轉邏輯運算

• $A \cup B=A+B$
• $A \cap B=A \cdot B$
• $A-B=A \bar{B}$ $A$ 事件發生 $B$ 事件不發生，由韋恩圖易證。 可以將 $-B$ 理解為 $\cdot (-B)$ ，$-B$ 即為 $\bar{B}$
• 若 $A \subset B$ ，$A \cup B=B,A \cap B=A$

事件運算轉邏輯運算後，大部分法則共通。 運用數電中學到的邏輯函數運算與化簡，可將複雜事件運算化簡。 Tips：卡諾圖

四大事件概率公式

推論

$P(A+B+C)$ ，將 $A+B$ 看成一個事件，運用上面的加法公式，兩次拆分得到：

更多和事件概率可依此遞推得到。

對立事件：$A$ 不發生的概率，韋恩圖一目了然。

非負性與規範性

非負性：對於任意事件 $A$ ，$0 \le P(A) \le 1$ 。 規範性：對於總事件 $\Omega$ ，$P(\Omega)=1$ 。

相互獨立

獨立必相互獨立。

古典概型

各基本事件發生概率相等。

Eg. 拋硬幣，擲骰子……

古典條件概率公式

伯努利概型（二項分佈）

$n$ 次獨立實驗，每次實驗只有 $A,\bar{A}$ 兩種結果。

$X \sim B(n,p)$

其中，$p=P(A),1-p=P(\bar{A})$

幾何概型

事件 所佔線/面/體積 部分與整個 線/面/體 的 長度/面積/體積 比值。 當事件所佔空間維度低於總事件空間 $\Omega$ 維度時，該事件概率恒為 0 。 ==Warning==：事件概率為 0 不代表一定不發生。 Eg：隨機選中圓內某點，選中任意點概率為 0，但都可能發生。

均勻分佈

$x \sim U(a,b)$ 近似為幾何分佈中的線性分佈，各點處概率密度：

分佈函數：

指數分佈

$x \sim E(\lambda)$

概率密度

分佈函數

泊松分佈

$X \sim \pi(\lambda)$

本文2024-09-10首發於孤筝の温暖小家，最後修改於2024-09-10

本部落格所有文章除特別聲明外，均採用 BY-NC-SA 授權協議。轉載請註明出處！

作者：孤筝（lvbowen040427@163.com）

實數基礎讀書報告

藉著這次數學分析大作業的機會來談談實數的建立。

實數的建立是數學基礎理論的一部分，涉及許多數學分支，包括數學邏輯、集合論、代數結構等。數學家們透過對這些基本概念和性質的嚴密推導，構建了實數系統，為數學的發展提供了堅實的基礎。這個過程在數學史上經歷了漫長的發展，由許多數學家共同貢獻。

1. 書籍資訊

1.1 Mathematical Analysis

• 作者： Tom A. Apostol
• 出版年： 1973
• 簡介：《數學分析》是Tom M. Apostol的經典之作，系統介紹了數學分析的基礎知識，包括實數系統、極限、連續性等。作者以清晰的邏輯和深刻的洞察力，幫助讀者建立對實數的深刻理解。

1.2 實分析與泛函分析(Real analysis and functional analysis)

• 作者： 匡繼昌
• 出版年： 2002
• 簡介：《實分析與泛函分析》是一本由匡繼昌教授編寫的高等數學教材，主要介紹了實分析和泛函分析的基本概念、理論和方法。本書的特點是用集合和映射將傳統的實變函數論、測度論和泛函分析三門課程融合為一門新的現代分析基礎教程。

1.3 實分析與複分析(Real and Complex Analysis)

• 作者： Walter Rudin
• 出版年： 2006
• 簡介： 本書是分析領域內的一部經典著作。全書體例優美，實用性很強，列舉的實例簡明精彩。無論實分析部分還是複分析部分，基本上對所有給出的命題都進行了論證。

1.4 Real Analysis

• 作者： Halsey Royden, Patrick Fitzpatrick
• 出版年： 2010
• 簡介： 這本書已經成為數學分析學科的經典之一，為數學學生提供了深刻的理論基礎。在第五版中，作者進行了重要的更新，包括對測度論、積分論以及度量、拓撲、希爾伯特和巴拿赫空間等現代分析學者應了解的主題的全面涵蓋。

2. 實數系統

實數系統是數學分析的基石，Apostol在他的書中詳細介紹了實數的定義和性質。實數具有完備性和稠密性等重要特徵，構成了數學分析的基礎。

實數的建立涉及數學的基本概念和系統的構建。實數系統是對實際數量的完整描述，包括整數、有理數和無理數。

2.1 有理數的引入

1. 自然數的引入： 實數系統的起點是自然數，即1, 2, 3, 4, …。這些數用於計數和排序。

2. 整數的引入： 為了解決減法問題，引入了零和負整數。這樣，整數系統包括正整數、零和負整數。

3. 有理數的引入： 儘管整數解決了減法的問題，但在除法運算方面還存在限制。例如，嘗試計算 $\frac{1}{3}$ 或 $\frac{2}{7}$ 時，我們發現這樣的數並不在整數集合中。因此，引入有理數的概念，使得任意兩個整數的比例也屬於一個新的數集。有理數系統是對整數系統的擴展，使得任何兩個有理數之間都存在一個有理數，目的是彌補整數集合中存在的一些不足。

4. 有理數的性質： 有理數具有一些重要的性質，包括加法、減法、乘法和除法的封閉性。這意味著任意兩個有理數的和、差、積和商仍然是有理數。這些性質使得有理數成為一個完備的數系。

2.2 無理數的引入

1. 有理數的局限性： 雖然有理數可以表示絕大多數的數值，但有一些數，例如平方根的值（如$\sqrt{2}$無法被表示為兩個整數的比值。嘗試表示這些數時，我們發現無法找到整數 $a$ 和 $b$ 使得 $\frac{a}{b} = \sqrt{2}$。

2. 無理數的定義： 為了彌補有理數無法表示的缺陷，引入了無理數的概念。無理數是不能表示為兩個整數之比的數，或者說，無理數是不是有理數的數。

3. 超越無理數： 超越無理數是不能成為任何代數方程的根的無理數。例如，$e$ 和 $\pi$ 都是超越無理數。這些數無法通過有限次代數運算得到。

2.3 實數完備性證明

實數系統是一個完備的系統，即實數軸上的任何無限序列都有一個極限。這一性質使得實數系統在數學分析中具有強大的工具，特別是在處理極限、連續性和收斂性等方面。 證明方法

確界原理

上確界的定義：

上確界的存在：

對於實數集合 $S$，如果存在一個實數 $M$，使得 $M$ 是 $S$ 的上界，而且對於任意小於 $M$ 的實數 $m$，存在 $S$ 中的元素 $s$，使得 $m \lt s$，則稱 $M$ 是 $S$ 的上確界。

例子：

考慮集合 $S = \{ x \in \mathbb{R} \mid 0 \lt x \lt 1 \}$，即 $S$ 包含所有在開區間 $(0, 1)$ 中的實數。這個集合的上確界是1。

實數的完備性：

單調有界序列的極限：

實數系統中的單調有界序列必有極限。設 $\{ a_n \}$ 是一個單調遞增有界序列，則存在實數 $L$，使得 $\lim_{n \to \infty} a_n = L$。

上確界存在性：

任何非空有上界的實數集合必有上確界。對於任何實數集合 $S$，如果 $S$ 非空且有上界，則 $S$ 有上確界。

完備性的證明思路：

實數的完備性可以通過證明上確界存在性來體現。具體而言，可以通過考慮所有有上界的實數集合的上確界，證明存在一個實數集合的上確界是實數軸上的一個數。

證明：

假設 $S$ 是一個非空有上界的實數集合：

構造集合 $M$：

考慮所有 $S$ 的上界組成的集合 $M$，即 $M = \{ M' \mid M' \text{是} S \text{的上界} \}$。

證明 $M$ 的上確界存在：

• $M$ 非空：因為 $S$ 有上界。
• $M$ 有下界：下界為 $\min(S)$。
• 由實數軸的確界性質，$M$ 有上確界。

證明 $M$ 的上確界即為 $S$ 的上確界：

設 $L$ 是 $M$ 的上確界，由 $M$ 的定義，對於任何小於 $L$ 的實數 $m$，存在 $M' \in M$ 使得 $m \lt M'$。由 $M'$ 是 $S$ 的上界，可知 $m$ 也是 $S$ 的上界。

結論：

因此，對於任何非空有上界的實數集合 $S$，$S$ 必有上確界，從而證明了實數的完備性。

單調有界定理

一個單調遞增（或遞減）且有界的實數序列必有極限。 假設有一個單調遞增有上界的實數序列 $\{a_n\}$，下證它必有極限。

證明：

1. 單調有界定理的前提條件： 序列 $\{a_n\}$ 是單調遞增的，即對於所有的 $n$，有 $a_n \leq a_{n+1}$；同時，序列有上界，存在一個實數 $M$，對於所有的 $n$，都有 $a_n \leq M$。
2. 存在上確界： 由於序列有上界，根據實數的確界性質，存在上確界 $L = \sup\{a_n\}$。即 $L$ 是集合 $\{a_n\}$ 的上確界。
3. 證明 $L$ 是序列的極限：
   • 對於任意小的正實數 $\varepsilon \gt 0$，由上確界的定義，存在某個序列元素 $a_N$，使得 $L - \varepsilon \lt a_N \leq L$。
   • 由序列的單調性，對於所有 $n \geq N$，有 $L - \varepsilon \lt a_N \leq a_n \leq L$。
   • 因此，$L - \varepsilon \lt a_n \lt L + \varepsilon$ 對於所有 $n \geq N$ 都成立。
   • 由極限的定義，$\lim_{n \to \infty} a_n = L$。 通過單調有界定理，我們證明了任何單調遞增有上界（或單調遞減有下界）的實數序列都有極限。這一結論是實數完備性的關鍵，確保了實數軸上的任何非空有上界的數集都有上確界，從而實數軸是完備的。

區間套定理

如果對於每一個正整數 $n$，都存在實數區間 $[a_n, b_n]$，使得這些區間滿足：

1. $[a_{n+1}, b_{n+1}] \subseteq [a_n, b_n]$（每個區間都包含在前一個區間內）。
2. 那麼，存在一個實數 $x$，屬於所有的區間，即 $x \in [a_n, b_n]$ 對於所有正整數 $n$ 都成立。

證明：

1. 構造區間套：
   • 對於每個正整數 $n$，給定區間 $[a_n, b_n]$。
   • 由條件1，這些區間構成了一個區間套，即 $[a_{n+1}, b_{n+1}]\subseteq [a_n, b_n]$。
2. 使用實數的確界性質：
   • 由於每個區間都是閉區間，根據實數的確界性質，存在實數 $x$，它同時是每個區間的上確界。
   • 設 $x = \lim_{n \to \infty} a_n$，即 $x$ 是每個區間左端點構成的序列的極限。
3. 證明 $x$ 在每個區間中：
   • 由區間套的定義，對於每個正整數 $n$，有 $x \in [a_n, b_n]$。
   • 因此，$x$ 同時屬於每個區間。
4. 結論：
   • 綜上，存在實數 $x$，它屬於所有給定的區間。這證明了區間套定理。

通過區間套定理，我們得知如果對於每一個正整數 \(n\)，都存在實數區間 $[a_n, b_n]$ 滿足給定條件，那麼實數軸上存在一個實數 $x$，它同時屬於所有的區間。這一結論是實數軸完備性的關鍵，確保了實數軸上的任何非空區間套都有一個共同的交點，從而實數軸是完備的。

有限覆蓋定理

有限覆蓋定理（Finite Covering Property）是實數完備性的一部分，也被稱為海涅-博雷爾定理（Heine-Borel Theorem）。該定理陳述了實數軸上有界閉區間的重要性質。具體來說，定理表明任何有界閉區間的任何開區間的開集覆蓋，都可以通過這些開區間中的有限個來覆蓋整個閉區間。 正式陳述如下：

有限覆蓋定理： 如果 $[a, b]$ 是實數軸上的一個有界閉區間，且 $\{G_n\}$ 是一組開區間，滿足 $[a, b] \subseteq \bigcup_{n=1}^{\infty} G_n$（閉區間完全包含在所有開區間的並集中），那麼存在一個自然數 $N$，使得 $[a, b] \subseteq \bigcup_{n=1}^{N} G_n$。

有限覆蓋定理指出，任何有界閉區間都可以通過該區間上的有限個開區間來覆蓋。

聚點定理

每個實數上無窮且有界的子集S都有至少一個聚點。這意味著S中的元素趨近於某個實數。 聚點定理也稱 Bolzano-Weierstrass 定理。該定理討論了有界序列的性質，特別是它確保有界序列至少有一個收斂的子序列。

聚點定理的陳述： 如果實數序列有界，即存在實數 $M$ 和 $N$，使得對於序列中的每個元素 $a_n$，都有 $N \leq a_n \leq M$，那麼該序列至少有一個收斂的子序列。

簡言之，如果實數序列有界，那麼必定存在一個子序列，它在某個實數上收斂。

柯西收斂準則

柯西收斂準則（Cauchy Convergence Criterion）是實數序列收斂性的一個重要準則。該準則基於柯西列的概念，指出如果一個實數序列是柯西列，那麼它是收斂的。

柯西收斂準則的陳述： 一個實數序列是收斂的充分必要條件是它是柯西列。 柯西列的定義： 對於任意給定的正實數 $\varepsilon$，存在一個正整數 $N$，對於所有的 $n, m \geq N$，都有 $|a_n - a_m| \lt \varepsilon$。

簡而言之，柯西列是指序列中的元素隨著序號的增加而趨於無窮接近，任何兩項之間的差異趨於零。

柯西收斂準則的重要性在於它提供了一種用序列內元素之間的差異來判斷序列收斂性的方法。當一個序列滿足柯西收斂準則時，我們可以斷定該序列是收斂的，即存在一個實數極限。 需要注意的是，柯西收斂準則對於實數序列成立，但在更一般的度量空間（metric space）中，柯西收斂準則僅是收斂的充分條件，不一定是必要條件。 在實數軸上，柯西收斂準則是完備性的一個表現。

2.4 實數的代數結構

實數系統具有一組運算規則，如加法和乘法，它們滿足一系列代數結構性質。實數的代數結構對於進行各種數學操作和推導是至關重要的。

1. 加法結構： 實數集合上定義了加法運算，即任意兩個實數 $a$ 和 $b$ 相加得到另一個實數 $a + b$。加法運算滿足以下性質：
   • 交換性： 對於任意實數 $a$ 和 $b$，有 $a + b = b + a$。
   • 結合性： 對於任意實數 $a$、$b$ 和 $c$，有 $(a + b) + c = a + (b + c)$。
   • 存在零元素： 存在一個實數 0，對於任意實數 $a$，有 $a + 0 = a$。
   • 存在相反元素： 對於任意實數 $a$，存在一個實數 $-a$，使得 $a + (-a) = 0$。
2. 乘法結構： 實數集合上定義了乘法運算，即任意兩個實數 $a$ 和 $b$ 相乘得到另一個實數 $a \cdot b$。乘法運算滿足以下性質：
   • 交換性： 對於任意實數 $a$ 和 $b$，有 $a \cdot b = b \cdot a$。
   • 結合性： 對於任意實數 $a$、$b$ 和 $c$，有 $(a \cdot b) \cdot c = a \cdot (b \cdot c)$。
   • 存在單位元素： 存在一個實數 1，對於任意實數 $a$，有 $a \cdot 1 = a$。
   • 存在倒數： 對於任意非零實數 $a$，存在一個實數 $\frac{1}{a}$，使得 $a \cdot \frac{1}{a} = 1$。
3. 分配律： 乘法對加法的分配律是實數代數結構中一個重要的性質，即對於任意實數 $a$、$b$ 和 $c$，有 $a \cdot (b + c) = a \cdot b + a \cdot c$ 和 $(a + b) \cdot c = a \cdot c + b \cdot c$。
4. 序關係： 實數集合上定義了大小關係，通常用符號 $ \lt $ 表示。大小關係滿足以下性質：
   • 反對稱性： 對於任意實數 $a$ 和 $b$，如果 $a \lt b$，則不可能有 $b \lt a$。
   • 傳遞性： 對於任意實數 $a$、$b$ 和 $c$，如果 $a \lt b$ 且 $b \lt c$，則必有 $a \lt c$。

這些代數結構性質使得實數成為一個有序域（Ordered Field），並為實數上的數學分析提供了強大的代數工具。這些結構性質對於解方程、處理不等式、進行數學推導和建立數學理論都具有重要意義。

3. 極限和連續性

極限和連續性是數學分析中的核心概念。通過引入極限的概念，深入淺出地闡述函數的連續性。

3.1 實數的極限：

3.1.1 定義：

給定一個實數序列（或實數函數）$\{a_n\}$，當n趨近於無窮大時，如果存在一個實數L，對於任意小的正實數ε，都存在一個正整數N，使得當n>N時，序列中的每一項都與L的距離小於ε，那麼我們說這個序列的極限為L，寫作 $\lim_{n \to \infty} a_n = L$ 。

3.1.2 直觀理解：

極限可以理解為序列中的值隨著項數的增加逐漸趨近於某個確定的值。例如，考慮序列$a_n = \frac{1}{n}$，當n趨近於無窮大時，$\lim_{n \to \infty} \frac{1}{n} = 0$，表示隨著n的增加，分數$\frac{1}{n}$的值逐漸趨近於零。

3.1.3 性質：

• 極限是唯一的：如果一個序列有極限，那麼它的極限是唯一的。
• 有界序列的極限：有界且單調遞增（或遞減）的序列一定有極限。

3.2 實數的連續性：

3.2.1 連續函數的定義：

一個實函數 f(x) 在某一點 \(x=a\) 處連續，意味著：

• $f(a)$ 存在。
• $\lim_{{x \to a^+}} f(x)$ 存在。
• $\lim_{{x \to a^-}} f(x)$ 存在。
• $\lim_{{x \to a^+}} f(x) = \lim_{{x \to a^-}} f(x) = f(a)$

3.2.2 直觀理解：

函數在某一點連續表示圖形上沒有跳躍、斷裂或間斷，即曲線沒有突變。一個典型的例子是連續函數 $f(x) = x^2$，在整個實數軸上都是連續的。

3.2.3 連續函數的性質：

• 連續函數的和、差、積仍然是連續函數。
• 除非分母為零，否則商函數也是連續的。
• 複合函數連續性：如果 g(x) 在點 $x=a$ 連續，而 f(x) 在點 $x=g(a)$ 處連續，那麼複合函數 $f(g(x))$ 在點 $x=a$ 處也連續。

3.3 重要定理：

3.3.1 介值定理：

如果一個函數 f(x) 在閉區間 [a, b] 上連續，且 $f(a) \neq f(b)$，那麼對於介於 f(a) 和 f(b) 之間的任何值 c，存在某個點 $x_0$ 在 (a, b) 之間，使得 $f(x_0) = c$。

3.3.2 極值定理：

如果一個函數 f(x) 在閉區間 [a, b] 上連續，那麼 f(x) 在該區間上至少有一個最大值和一個最小值。

這些概念和定理構成了實數的極限和連續性理論的基礎，為理解數學分析中更高級的概念和定理奠定了基礎。

4. 對比不同

4.1 數學分析：

• 這本書涵蓋了實分析的基本概念，如實數的構造、連續性、極限、導數和積分。
• 它詳細介紹實數的定義和性質，以及實數集合的基本性質。
• 本書強調一些數學邏輯和集合論的基礎知識，以便更好地理解實數的建立過程。

4.2 《實分析與泛函分析》：

• 它包括更複雜的實數建立方法，例如戴德金分割或基於某些拓撲性質的構造。
• 此外，它涵蓋了泛函分析的一些基本概念。
• 作者更詳細地討論實數的性質，以及實數集合的測度和積分理論。

4.3 Real and Complex Analysis：

• 這本書是最全面的，涵蓋了實分析和複分析的許多方面。
• 它詳細介紹了測度論。
• 它還涵蓋了複分析的一些基本概念，如複數的性質、全純函數和調和函數。
• 強調實數和複數之間的關係，以及它們在數學中的重要性。

4.4 Real Analysis

• Real Analysis這本書突出實數系統的建立，包括對有理數和無理數的構建以及實數的完備性。
• 在深入研究極限和連續性方面，著重討論數列和函數的極限概念，以及導數和積分的基本概念。級數的收斂性、發散性以及求和方法也得到詳細考察。
• 引入了度量空間，輔助理解實數系統和函數空間。

7. 個人體會

透過研讀實數建立的相關書籍，我的數學觀念得到了顯著的拓展。更加深入了解了實數的構建過程，包括從有理數到無理數的引入，以及確界原理等方法的闡釋證明。這使我對實數的概念有了更為清晰和深刻的認識，意識到實數的引入是為了彌補有理數的不足，使數學體系更為完備。

在深入學習極限和連續性的過程中，我深感這是一種深邃而富有美感的思想。極限的引入不僅為理解數列和函數的趨勢提供了有效的工具，也是實數系統中的核心思想之一。連續性的概念則使得實數軸上函數變化的漸進平滑，這種連續性貫穿於整個數學分析。

本文2023-12-27首發於孤筝の温暖小家，最後修改於2023-12-27

本部落格所有文章除特別聲明外，均採用 BY-NC-SA 授權協議。轉載請註明出處！

作者：孤筝（lvbowen040427@163.com）

1. 留數定理（Residue Theorem）：

留數定理是複變函數理論中的一個關鍵結果，它建立在留數的概念之上。留數定理的核心思想是，如果在一個包含孤立奇點的閉曲線內，函數在這個曲線上處處解析，那麼曲線內的整體積分等於函數在奇點處的留數之和。

2. 洛朗級數（Laurent Series）：

洛朗級數是一種複變函數的展開形式，可以表示為無窮級數的形式，包括正次冪和負次冪。具體而言，一個複函數在一個環形區域內的洛朗級數表示如下：

其中，$c_n$是係數，而$z_0$是展開點。

3. 高階導數公式：

複變函數的高階導數公式和實變函數有些相似，但在複平面上的運算需要注意。如果一個函數在某點解析，那麼它在該點處的高階導數可以通過對冪級數逐項求導得到。

4. 柯西積分公式（Cauchy’s Integral Formula）：

柯西積分公式是複分析中的一個基本結果，它建立了解析函數和其在圍道上的積分之間的關係。具體而言，如果函數$f(z)$在一個簡單閉合曲線內解析，那麼對於這個曲線內的任意點$z_0$，有：

其中，$C$是包圍$z_0$的簡單閉合曲線。

關係和聯繫：

1. 留數定理與洛朗級數： 留數定理可以用來計算閉合曲線內函數的積分，而洛朗級數展開可以幫助我們理解函數在奇點附近的性質，從而求得留數。

2. 留數定理與高階導數公式： 留數定理可以通過對函數在奇點處的洛朗級數展開，然後逐項求導，來計算高階導數。

3. 留數定理與柯西積分公式： 柯西積分公式可以用來計算函數在圍道上的積分，而留數定理是柯西積分公式的一種特例，其中圍道內只有有限個孤立奇點。

1. 留數定理的洛朗級數證明：

留數定理：

留數定理的表述為：

如果$f(z)$在包含孤立奇點$z_0$的閉曲線內處處解析，那麼曲線內的整體積分等於函數在奇點處的留數之和。

洛朗級數展開：

其中，$c_n$是留數。

證明步驟：

1. 洛朗級數的求解： 通過複變函數的洛朗級數展開，我們有

   $$f(z) = \sum_{n=-\infty}^{\infty} c_n (z - z_0)^n$$

   其中，$c_n$是由留數計算得到的係數。

2. 積分的計算： 對洛朗級數進行積分：

   $$\oint_C f(z) \, dz = \oint_C \left( \sum_{n=-\infty}^{\infty} c_n (z - z_0)^n \right) \, dz$$

3. 積分與求和次序交換： 由於積分與求和次序可以交換，我們得到：

   $$\oint_C f(z) \, dz = \sum_{n=-\infty}^{\infty} \oint_C c_n (z - z_0)^n \, dz$$

4. 留數定理的應用： 對於$n \neq -1$，由於$c_n$不含$z^{-1}$，積分結果為零。只有$n = -1$項會貢獻非零積分。

   $$\oint_C f(z) \, dz = 2\pi i \cdot c_{-1}$$

5. 結論： 最終得到留數定理的結論：

   $$\oint_C f(z) \, dz = 2\pi i \cdot c_{-1}$$

2. 留數定理到高階導數公式的證明：

留數定理：

留數定理的表述為：

如果$f(z)$在包含孤立奇點$z_0$的閉曲線內處處解析，那麼曲線內的整體積分等於函數在奇點處的留數之和。

高階導數公式：

複變函數的高階導數公式如下：

如果$f(z)$在某點$z_0$處解析，那麼它在該點的$n$階導數可以表示為：

其中，$C$是包圍$z_0$的簡單閉合曲線。

證明步驟：

1. 留數定理的應用： 根據留數定理，我們知道

   $$\oint_C f(z) \, dz = 2\pi i \cdot \text{Res}(f, z_0)$$

2. 洛朗級數的求解： 類似於前面的討論，我們可以將$f(z)$在$z_0$處展開為洛朗級數：

   $$f(z) = \sum_{n=-\infty}^{\infty} c_n (z - z_0)^n$$

3. 高階導數的計算： 利用洛朗級數，我們可以計算$f^{(n)}(z_0)$：

   $$f^{(n)}(z_0) = \sum_{n=-\infty}^{\infty} n(n-1)\ldots(n-k+1) \cdot c_n \cdot (z - z_0)^{n-k}$$

4. 留數的提取： 我們可以觀察到只有$n = -k$時才會貢獻非零項，因此

   $$f^{(n)}(z_0) = n! \cdot c_{-n}$$

5. 結論： 將$c_{-n}$代入留數定理的表達式，得到高階導數公式的形式：

   $$f^{(n)}(z_0) = \frac{n!}{2\pi i} \oint_C \frac{f(z)}{(z - z_0)^{n+1}} \, dz$$

3. 留數定理da柯西積分公式的證明：

留數定理：

留數定理的表述為：

如果$f(z)$在包含孤立奇點$z_0$的閉曲線內處處解析，那麼曲線內的整體積分等於函數在奇點處的留數之和。

柯西積分公式：

柯西積分公式表述為：

其中，$C$是包圍$z_0$的簡單閉合曲線。

證明步驟：

1. 留數定理的應用： 根據留數定理，我們知道

   $$\oint_C f(z) \, dz = 2\pi i \cdot \text{Res}(f, z_0)$$

2. 洛朗級數的求解： 類似於前面的討論，我們可以將$f(z)$在$z_0$處展開為洛朗級數：

   $$f(z) = \sum_{n=-\infty}^{\infty} c_n (z - z_0)^n$$

3. 柯西積分公式的形式： 考慮柯西積分公式的形式：

   $$f(z_0) = \frac{1}{2\pi i} \oint_C \frac{f(z)}{z - z_0} \, dz$$

4. 留數的提取： 我們可以觀察到$c_{-1}$對應著$1/(z - z_0)$，因此：

   $$f(z_0) = c_{-1}$$

5. 結論： 將$c_{-1}$代入柯西積分公式的表達式，得到柯西積分公式：

   $$f(z_0) = \frac{1}{2\pi i} \oint_C \frac{f(z)}{z - z_0} \, dz$$

本文2023-12-20首發於孤筝の温暖小家，最後修改於2023-12-20

本部落格所有文章除特別聲明外，均採用 BY-NC-SA 授權協議。轉載請註明出處！

作者：孤筝（lvbowen040427@163.com）

複數

1. 複數的表達形式： $$z = r\cdot e^{i\theta} = r(cos\theta +i\cdot sin\theta)$$
2. 幾種初等函數
   1. 指數函數：$e^z = e^x(cosy+isiny)$
      1. $e^z只是expz的縮寫，並沒有冪的含義$
      2. $|e^z| = e^x,Arg(e^z) = y+2k\pi$
   2. 對數函數：$Lnz =ln|r|+iArgz$
      1. 函數在除去原點和負實軸的$z$平面內解析，且$(Lnz)' = \frac{1}{z}$
   3. 三角函數
      1. $cosz = \frac{e^{iz}+e^{-iz}}{2},sinz = \frac{e^{iz}-e^{-iz}}{2i}$
      2. $chz = \frac{e^z+e^{-z}}{2},shz = \frac{e^z-e^{-z}}{2}$

解析函數

1. 可導的定義： $$\lim_{\Delta z \to 0} \frac{f(z_0+\Delta z)-f(z_0)}{\Delta z} 極限存在，就稱f(z)在z_0可導$$
2. 解析的定義： $$函數f(z)在z_0及z_0的鄰域內處處可導，就稱f(z)在z_0處解析$$ 推論：解析函數的和、差、積、商也是解析函數，解析函數的複合也是解析函數。
3. 可導、解析的充要條件：$u(x),v(x)可微$，並且滿足柯西-黎曼方程 $$\frac{\partial u}{\partial x}=\frac{\partial v}{\partial y} ,\frac{\partial u}{\partial y}=-\frac{\partial v}{\partial x} $$若有一個不滿足，則既不可導也不解析。 推論：$f'(z) = \frac{\partial u}{\partial x}+i\frac{\partial v}{\partial x}=\frac{1}{i}\frac{\partial u}{\partial y}+\frac{\partial v}{\partial y}$

複變函數的積分

重要公式

1. 柯西-古薩基本定理 在解析，單連通的區域內的任意閉合曲線積分值為0，即 $$\oint_{C}^{}f{(z)}dz = 0$$
2. 複合閉路定理——柯西積分定理向多連通推廣 C為解析、多連通區域內的簡單閉曲線，$C_1,C_2 \cdots C_n$為C內同向的簡單閉曲線， $$\oint_{C}^{}f{(z)}dz = \sum_{k=1}^{n} \oint_{C_k}f(z)dz $$
3. 柯西積分公式——將曲線C內部任意一點的值用它邊界的值來表示
4. $f(z)$在區域D內解析，C為D內一條正向簡單閉曲線 $$2\pi i\cdot f(z_0) = \oint_{c} \frac{f(z)}{z-z_0}dx$$
5. 柯西積分公式的高階推廣——用函數的高階導數來求積分 $$f^{(n)}(z_0)=\frac{n!}{2\pi i}\oint_C \frac{f(z)}{(z-z_0)^{n+1}}dz$$

級數

冪級數

1. 解析函數的兩個性質
   1. 解析函數具有任意階導數
   2. 解析函數都一定可以用冪級數來表示
2. 泰勒展開$f(z) = \sum_{n=0}^{\infty}\frac{f^{(n)}(0)}{n!}z^n$
3. 求泰勒展開的方法[[高等數學#函數展開為冪級數]]

洛朗級數

1. 雙邊冪級數
   1. 收斂域是圓環域$R_1 \lt |z-z_0| \lt R_2$
2. 洛朗展開: $$f(z) = \sum_{n=-\infty}^{\infty}c_n(z-z_0)^n,c_n=\frac{1}{2\pi i}\cdot \oint_{C}\frac{f(z)}{(z-z_0)^{n+1}}dz$$ 推論：當$n$取$-1$時，$c_{-1}\cdot 2\pi i=\oint_Cf(z)dz$
3. 求洛朗展開的方法
   1. 用定義來算出來$c_n$(幾乎不用)
   2. 運用代數運算、代換等方法，使得洛朗級數變為泰勒級數的形式和收斂域

留數

孤立奇點

1. 定義：$f(z)$在$z_0$處不解析，但在$z_0$的某一去心鄰域內處處解析
2. 孤立奇點的分類（根據洛朗級數的負冪項）
   1. 可去奇點：不含有負冪項 ，因此當$z\to z_0$時$f(z)$的極限為有限數
   2. 極點：含有有限個負冪項（若有m個負冪項，則稱$z_0$為$f(z)$的m級極點），當$z\to z_0$時$f(z)$的極限為$\infty$.
   3. 本性奇點：含有無限個負冪項，$f(z)$的極限不存在
3. 極點和零點的關係
   1. 零點的定義：不恆等於零的解析函數$f(z)$,如果能表示成$f(z) = (z-z_0)^m\varphi(z)$,$則稱z_0為f(z)的m級零點$. 充要條件是：$f^{(n)}(z_0) = 0,(n \lt m)\quad f^{(m)}\ne 0$
   2. 如果$z_0為f(z)的m級零點$，$則稱z_0為\frac{1}{f(z)}的m級極點$.

留數

1. 定義： $$Res[f(z),z_0]=c_{-1} = \frac{1}{2\pi i}\oint_C f(z)d_z$$
2. 留數的計算法則
   1. 如果$z_0為f(z)的一級極點$ $$Res[f(z),z_0]=\lim_{z\to z_0}(z-z_0)f(z)$$
   2. 如果$z_0為f(z)的m級極點$ $$Res[f(z),z_0]=\frac{1}{(m-1)!}\lim_{z\to z_0}\frac{d^{m-1}}{dz^{m-1}}(z-z_0)^mf(z)$$
   3. 如果$f(z)=\frac{P(z)}{Q(z)},且P(z_0)\ne0,Q(z_0) =0,Q'(z_0)\ne0$ $$Res[f(z),z_0]=\frac{P(z_0)}{Q'(z_0)}$$
   4. $$Res[f(z),\infty]=-Res[f(\frac{1}{z})\cdot\frac{1}{z^2},0]$$

本文2023-11-17首發於孤筝の温暖小家，最後修改於2023-11-17

本部落格所有文章除特別聲明外，均採用 BY-NC-SA 授權協議。轉載請註明出處！