應(yīng)用數(shù)學(xué)專題講座

1、時間序列分析,隨機過程的概念 在概率論的基本理論中，我們首先建立了概率空間，進一步定義了隨機變量和它的分布函數(shù)，用以刻劃隨機現(xiàn)象的統(tǒng)計規(guī)律性。在那里，我們討論的是一個或者幾個隨機變量。但在實際中，我們還需要討論一族無窮多個按照一定關(guān)系聯(lián)系起來的隨機變量。例如，考慮電話交換臺接到用戶的呼喚次數(shù)的問題。如果用 表示在時刻t以前交換臺接到用戶的呼喚總次數(shù)，于是，對于固定資產(chǎn)的時刻t而言， 是一個隨機變

2、量。而當(dāng)長時間觀察并記錄可得 ，它就是一族無窮多個隨機變量構(gòu)成的時間函數(shù)。也就是說，描述交換臺接到用戶的呼喚次數(shù)，需要用一族依賴于時間的隨機變量。通常我們把這樣的一族隨機變量稱為隨機過程。,,,,定義1 設(shè) 是一個概率空間，T是一個參數(shù)集， 是 上的函數(shù)，如果對于每

3、一個 ， 都是 上的隨機變量，則稱隨機變量族 為定義在 上的隨機過程。簡記為,,,,,,,,,隨機過程的有限維分布函數(shù)族 研究隨機現(xiàn)象，主要是研究它的統(tǒng)計規(guī)律性。對于隨機過程，如何刻劃它的統(tǒng)計規(guī)律性呢？在概率論中我們已經(jīng)知道，一個隨機變量的統(tǒng)計規(guī)律性完全由它的分布函數(shù)所刻劃，有限個隨機

4、變量的統(tǒng)計規(guī)律性完全被它們的聯(lián)合分布函數(shù)所刻劃。既然隨機過程可視為一族隨機變量，是否也可以用一個無窮多維的聯(lián)合分布函數(shù)來刻劃它呢？由測度論的理論可知，使用無窮維分布函數(shù)的方法是行不通的?？尚械霓k法，就是采用有限維分布函數(shù)族來刻劃隨機過程的統(tǒng)計特性。,定義2 設(shè)隨機過程的狀態(tài)空間為R，對于任意自然數(shù)n以及任意參數(shù) ，n個隨機變量

5、 的聯(lián)合分布函數(shù)為 所有這些分布函數(shù)的集合 稱為隨機過程的有限維分布函數(shù)族。,,,,,例1 利用重復(fù)拋硬幣的試驗定義一個隨機過程 設(shè)“出現(xiàn)正面”和“出現(xiàn)反面”的概率各為0.5，試求它的一維分布函數(shù) ，和二維分布函數(shù)族。,,,,隨機過程的數(shù)字特征 定義3 設(shè) 是一隨機過程，對任意固定

6、的t，隨機變量X(t)的數(shù)學(xué)期望和方差都存在,我們分別稱 為隨機過程的均值函數(shù)和方差函數(shù),,,,例2 求例1中的隨機過程的均值函數(shù)與方差函數(shù),定義4 設(shè) 是一隨機過程，對任意固定的t1和t2，

7、隨機變量 的二階原點矩和協(xié)方差都存在 ,我們分別稱 為隨機過程的（自）相關(guān)函數(shù)和（自）協(xié)方差函數(shù),,,,,,,例3:求例1中的隨機過程的相關(guān)函數(shù)和協(xié)方差函數(shù),平穩(wěn)隨機過程平穩(wěn)隨機過程是一類應(yīng)用廣泛的隨機過程。

8、它在通訊、生物、自動控制、系統(tǒng)論、信息論、經(jīng)濟領(lǐng)域等方面有著廣泛的應(yīng)用。從它的有限維分布族和數(shù)字特征來考慮，平穩(wěn)隨機過程又分為強平穩(wěn)過程和弱平穩(wěn)過程。我們只介紹弱平穩(wěn)過程,定義5 設(shè) 是一隨機過程，如果滿足(1)對任一的t， 為常數(shù)；(2)對任一的t， ；(3)對任一的

9、 與t無關(guān)，則稱為弱平穩(wěn)過程。,,,,,,例4 設(shè)隨機過程 ，其中 是相互獨立的二元隨機變量，它們分別以 的概率取值-1,2。(1)求隨機過程 的均值函數(shù)和相關(guān)函數(shù)；

10、(2)證明 是弱平穩(wěn)過程但不是強平穩(wěn)過程,,,,,,對于弱平穩(wěn)過程，由于均值函數(shù)為常數(shù)m，將過程進行平移，可以使得它的均值為零。其統(tǒng)計性質(zhì)不會發(fā)生改變，下面我們提到弱平穩(wěn)過程都是零均值的，并且我們還把弱平穩(wěn)過程叫做平穩(wěn)過程。一類簡單的平穩(wěn)時間序列，稱為平穩(wěn)白噪聲序列，簡稱白噪聲，如果平穩(wěn)時間序列

11、的協(xié)方差函數(shù)（也是相關(guān)函數(shù)）為,,,平穩(wěn)時間序列的均值函數(shù)和協(xié)方差函數(shù)的估計 如果經(jīng)檢驗證實所研究的時間序列是平穩(wěn)的，那么一個重要的問題是如何估計它的均值函數(shù)和協(xié)方差函數(shù)。首先是均值函數(shù)的估計。設(shè) 是平穩(wěn)時間序列，記 。固定t1，可以這樣估計m：取 的許多樣本軌道，將

12、這些軌道在 處的所有的值取平均作為的估計。這種方法不但非常繁瑣，并且在實際中我們觀測到的僅是時間序列的一個樣本軌道，因此，在實際中是行不通的?？梢赃@樣設(shè)想：因為時間序列是平穩(wěn)的，很自然地，希望用一個很長時期觀測的樣本軌道來估計平穩(wěn)序列的統(tǒng)計特征。這種性質(zhì)稱為平穩(wěn)序列的遍歷性。對此可以這樣理解：對于具有遍歷性的平穩(wěn)序列，只要觀測的時間比較長，它的每個軌道都能“遍歷”到各種可能的狀態(tài)，因而一個軌道按

13、時間的平均可以近似地代替它在固定時刻取值的統(tǒng)計平均。,,,,,定義6設(shè) 是平穩(wěn)時間序列,如果隨機變量（稱為過程的時間平均）的均方極限為m，即 則稱 具有均值遍歷性。,,,,,定義7設(shè) 是平穩(wěn)時間序列,如果隨機變量的

14、均方極限為 ，即 則稱 具有相關(guān)函數(shù)遍歷性。,,,,,,,平穩(wěn)時間序列的線性模型我們常見的平穩(wěn)時間序列的線性模型有下面三種形式：(1)AR序列，即自回歸序列；(2)MA序列，即滑動平均序列；(3)ARMA序列，即自回歸滑動平均序列?？梢宰C明，上述三種序列模型均具有遍歷性

15、，因此，可以通過它的一個樣本軌道來估計自協(xié)方差函數(shù)和相關(guān)函數(shù)。下面，我們給出零均值平穩(wěn)時間序列的線性模型的定義,1．AR序列模型一個零均值平穩(wěn)時間序列如果在t時刻的數(shù)值可表示成過去p個時刻上的數(shù)值的線性組合再加上t時刻的白噪聲，即 其中 是零均值、方差 為的白噪聲，并且它與 不相關(guān)。我們稱為階數(shù)為p的自

16、回歸模型，簡記為 。常數(shù) 叫做自回歸系數(shù)，且 。,,,,,,,,,,2．MA序列模型一個零均值平穩(wěn)時間序列滿足 其中 是零均值、方差 為的白噪聲。我們稱為階數(shù)為q的滑動平均序列 ，簡記為 。常數(shù)叫做自回歸系

17、數(shù)向量，且 。,,,,,,,,,,,,,,3．ARMA序列模型一個零均值平穩(wěn)時間序列滿足 其中 是零均值、方差 為的白噪聲。我們稱為階數(shù)為p,q的自回歸滑動平均序列 ，簡記為 ARMA(p,q) 。其中,,,,,,,,,,,,,,,,平穩(wěn)時間序列的線性模型的參數(shù)估計1．AR序列模型的參數(shù)估計我們可以采用多

18、元線性回歸模型的參數(shù)估計方法。取 得到,,,,記,,,,,方程可寫為 參數(shù)的最小二乘估計為,,,,并利用相關(guān)函數(shù)的估計式,有因此有,,,,,,,2．MA序列模型的參數(shù)估計 這種序列模型的相關(guān)函數(shù)為 相關(guān)函數(shù)可用其估計式代替。方程組的解就是參數(shù)的估計值。不過它是一個非線性方程組，一般難以求得它的精確解，通常采用數(shù)值解法,,,,3．ARMA序列模型的參

19、數(shù)估計它的參數(shù)的求解方法是分兩步進行：首先求 的估計值?？捎上率剿愕?,,,,然后再求 的估計值,令則 也是零均值平穩(wěn)時間序列，且這是關(guān)于平穩(wěn)時間序列 的模型。由此可求得

20、 的估計值。而 的樣本值算式為,,,,,,,,,,平穩(wěn)時間序列的線性模型的預(yù)報所謂預(yù)報是指已經(jīng)知道一個時間序列現(xiàn)在和過去的數(shù)值，對將來的數(shù)值作估計。設(shè)平穩(wěn)時間序列為 ，若已知觀測到的數(shù)值

21、 ，要估計 的數(shù)值，稱為在k時刻作l步預(yù)報。 的估計值記為 或 ，稱為l步預(yù)報值。平穩(wěn)序列的預(yù)報有多種方法，在這時，我們采用最小方差線性估計的原則。用 對 作估計，取,,,,,,,,,,使下面推出的預(yù)報公式，是建立在一個基本引理的基礎(chǔ)上?；疽恚喝粢呀?jīng)觀測到平穩(wěn)時間序列

22、 的數(shù)值，則(1)將來第k+l時刻的白噪聲估計值 ；(2)現(xiàn)在或過去第時刻平穩(wěn)序列估計值。這些結(jié)論直觀上是比較明顯的。在這時，我們不給證明。下面我們分三種模型分別介紹其預(yù)報公式。,,,,,1．AR序列模型的預(yù)報公式當(dāng) 時當(dāng) 時,,,,,2．MA(q

23、)序列模型的預(yù)報公式在上式中出現(xiàn)白噪聲的估計值，如何根據(jù) 的數(shù)值來計算白噪聲的估計值呢我們采用下面的方法,取 分別取 ，用令 ，得到,,,,,,,,,,3．ARMA(p,q)序列模型的預(yù)報公式與前面兩種模型的預(yù)報方法一樣 ,取這也是一種遞推公式，在算二