日本综合一区二区|亚洲中文天堂综合|日韩欧美自拍一区|男女精品天堂一区|欧美自拍第6页亚洲成人精品一区|亚洲黄色天堂一区二区成人|超碰91偷拍第一页|日韩av夜夜嗨中文字幕|久久蜜综合视频官网|精美人妻一区二区三区

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時(shí)間：8:30-17:00
你可能遇到了下面的問(wèn)題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營(yíng)銷解決方案
用XGBoost進(jìn)行時(shí)間序列預(yù)測(cè)

XGBoost是梯度分類和回歸問(wèn)題的有效實(shí)現(xiàn)。

成都創(chuàng)新互聯(lián)公司成立十多年來(lái)，這條路我們正越走越好，積累了技術(shù)與客戶資源，形成了良好的口碑。為客戶提供網(wǎng)站設(shè)計(jì)制作、網(wǎng)站設(shè)計(jì)、網(wǎng)站策劃、網(wǎng)頁(yè)設(shè)計(jì)、域名注冊(cè)、網(wǎng)絡(luò)營(yíng)銷、VI設(shè)計(jì)、網(wǎng)站改版、漏洞修補(bǔ)等服務(wù)。網(wǎng)站是否美觀、功能強(qiáng)大、用戶體驗(yàn)好、性價(jià)比高、打開快等等，這些對(duì)于網(wǎng)站建設(shè)都非常重要，成都創(chuàng)新互聯(lián)公司通過(guò)對(duì)建站技術(shù)性的掌握、對(duì)創(chuàng)意設(shè)計(jì)的研究為客戶提供一站式互聯(lián)網(wǎng)解決方案，攜手廣大客戶，共同發(fā)展進(jìn)步。

它既快速又高效，即使在各種預(yù)測(cè)建模任務(wù)上也表現(xiàn)出色，即使不是最好的，也能在數(shù)據(jù)科學(xué)競(jìng)賽的獲勝者（例如Kaggle的獲獎(jiǎng)?wù)撸┲袕V受青睞。

XGBoost也可以用于時(shí)間序列預(yù)測(cè)，盡管它要求將時(shí)間序列數(shù)據(jù)集首先轉(zhuǎn)換為有監(jiān)督的學(xué)習(xí)問(wèn)題。它還需要使用一種專門的技術(shù)來(lái)評(píng)估模型，稱為前向驗(yàn)證，因?yàn)槭褂胟倍交叉驗(yàn)證對(duì)模型進(jìn)行評(píng)估會(huì)導(dǎo)致樂(lè)觀的結(jié)果。

在本教程中，您將發(fā)現(xiàn)如何開發(fā)XGBoost模型進(jìn)行時(shí)間序列預(yù)測(cè)。完成本教程后，您將知道：

1、XGBoost是用于分類和回歸的梯度提升集成算法的實(shí)現(xiàn)。

2、可以使用滑動(dòng)窗口表示將時(shí)間序列數(shù)據(jù)集轉(zhuǎn)換為監(jiān)督學(xué)習(xí)。

3、如何使用XGBoost模型擬合，評(píng)估和進(jìn)行預(yù)測(cè)，以進(jìn)行時(shí)間序列預(yù)測(cè)。

教程概述

本教程分為三個(gè)部分：他們是：

1、XGBoost集成

2、時(shí)間序列數(shù)據(jù)準(zhǔn)備

3、XGBoost用于時(shí)間序列預(yù)測(cè)

XGBoost集成

XGBoost是Extreme Gradient Boosting的縮寫，是隨機(jī)梯度提升機(jī)器學(xué)習(xí)算法的有效實(shí)現(xiàn)。隨機(jī)梯度增強(qiáng)算法（也稱為梯度增強(qiáng)機(jī)或樹增強(qiáng)）是一種功能強(qiáng)大的機(jī)器學(xué)習(xí)技術(shù)，可在各種具有挑戰(zhàn)性的機(jī)器學(xué)習(xí)問(wèn)題上表現(xiàn)出色，甚至表現(xiàn)最佳。

它是決策樹算法的集合，其中新樹修復(fù)了那些已經(jīng)屬于模型的樹的錯(cuò)誤。將添加樹，直到無(wú)法對(duì)模型進(jìn)行進(jìn)一步的改進(jìn)為止。XGBoost提供了隨機(jī)梯度提升算法的高效實(shí)現(xiàn)，并提供了一組模型超參數(shù)，這些參數(shù)旨在提供對(duì)模型訓(xùn)練過(guò)程的控制。

XGBoost設(shè)計(jì)用于表格數(shù)據(jù)集的分類和回歸，盡管它可以用于時(shí)間序列預(yù)測(cè)。

首先，必須安裝XGBoost庫(kù)。您可以使用pip進(jìn)行安裝，如下所示：

 
 
 
 
    
  
  
  
  
  1. sudo pip install xgboost 
    2.

一旦安裝，您可以通過(guò)運(yùn)行以下代碼來(lái)確認(rèn)它已成功安裝，并且您正在使用現(xiàn)代版本：

 
 
 
 
    
  
  
  
  
  1. # xgboost  
    2.   
  
  
  
  2. import xgboost  
    3.   
  
  
  
  3. print("xgboost", xgboost.__version__) 
    4.

運(yùn)行代碼，您應(yīng)該看到以下版本號(hào)或更高版本。

 
 
 
 
    
  
  
  
  
  1. xgboost 1.0.1 
    2.

盡管XGBoost庫(kù)具有自己的Python API，但我們可以通過(guò)XGBRegressor包裝器類將XGBoost模型與scikit-learn API結(jié)合使用。

可以實(shí)例化模型的實(shí)例，就像將其用于模型評(píng)估的任何其他scikit-learn類一樣使用。例如：

 
 
 
 
    
  
  
  
  
  1. # define model  
    2.   
  
  
  
  2. model = XGBRegressor() 
    3.

現(xiàn)在我們已經(jīng)熟悉了XGBoost，下面讓我們看一下如何為監(jiān)督學(xué)習(xí)準(zhǔn)備時(shí)間序列數(shù)據(jù)集。

時(shí)間序列數(shù)據(jù)準(zhǔn)備

時(shí)間序列數(shù)據(jù)可以表述為監(jiān)督學(xué)習(xí)。給定時(shí)間序列數(shù)據(jù)集的數(shù)字序列，我們可以將數(shù)據(jù)重組為看起來(lái)像監(jiān)督學(xué)習(xí)的問(wèn)題。我們可以通過(guò)使用以前的時(shí)間步長(zhǎng)作為輸入變量，并使用下一個(gè)時(shí)間步長(zhǎng)作為輸出變量來(lái)做到這一點(diǎn)。讓我們通過(guò)一個(gè)例子來(lái)具體說(shuō)明。假設(shè)我們有一個(gè)時(shí)間序列，如下所示：

 
 
 
 
    
  
  
  
  
  1. time, measure  
    2.   
  
  
  
  2. 1, 100  
    3.   
  
  
  
  3. 2, 110  
    4.   
  
  
  
  4. 3, 108  
    5.   
  
  
  
  5. 4, 115  
    6.   
  
  
  
  6. 5, 120 
    7.

通過(guò)使用上一個(gè)時(shí)間步的值來(lái)預(yù)測(cè)下一個(gè)時(shí)間步的值，我們可以將此時(shí)間序列數(shù)據(jù)集重組為監(jiān)督學(xué)習(xí)問(wèn)題。通過(guò)這種方式重組時(shí)間序列數(shù)據(jù)集，數(shù)據(jù)將如下所示：

 
 
 
 
    
  
  
  
  
  1. X, y  
    2.   
  
  
  
  2. ?, 100  
    3.   
  
  
  
  3. 100, 110  
    4.   
  
  
  
  4. 110, 108  
    5.   
  
  
  
  5. 108, 115  
    6.   
  
  
  
  6. 115, 120  
    7.   
  
  
  
  7. 120, ? 
    8.

請(qǐng)注意，時(shí)間列已刪除，某些數(shù)據(jù)行不可用于訓(xùn)練模型，例如第一和最后一個(gè)。

這種表示稱為滑動(dòng)窗口，因?yàn)檩斎牒皖A(yù)期輸出的窗口會(huì)隨著時(shí)間向前移動(dòng)，從而為監(jiān)督學(xué)習(xí)模型創(chuàng)建新的“樣本”。

有關(guān)準(zhǔn)備時(shí)間序列預(yù)測(cè)數(shù)據(jù)的滑動(dòng)窗口方法的更多信息。

在給定所需的輸入和輸出序列長(zhǎng)度的情況下，我們可以在Pandas中使用shift（）函數(shù)自動(dòng)創(chuàng)建時(shí)間序列問(wèn)題的新框架。

這將是一個(gè)有用的工具，因?yàn)樗鼘⒃试S我們使用機(jī)器學(xué)習(xí)算法探索時(shí)間序列問(wèn)題的不同框架，以查看可能導(dǎo)致性能更好的模型。

下面的函數(shù)將一個(gè)時(shí)間序列作為具有一個(gè)或多個(gè)列的NumPy數(shù)組時(shí)間序列，并將其轉(zhuǎn)換為具有指定數(shù)量的輸入和輸出的監(jiān)督學(xué)習(xí)問(wèn)題。

 
 
 
 
    
  
  
  
  
  1. # transform a time series dataset into a supervised learning dataset  
    2.   
  
  
  
  2. def series_to_supervised(data, n_in=1, n_out=1, dropnan=True):  
    3.   
  
  
  
  3.  n_vars = 1 if type(data) is list else data.shape[1]  
    4.   
  
  
  
  4.  df = DataFrame(data)  
    5.   
  
  
  
  5.  cols = list()  
    6.   
  
  
  
  6.  # input sequence (t-n, ... t-1)  
    7.   
  
  
  
  7.  for i in range(n_in, 0, -1):  
    8.   
  
  
  
  8.   cols.append(df.shift(i))  
    9.   
  
  
  
  9.  # forecast sequence (t, t+1, ... t+n)  
    10.   
  
  
  
  10.  for i in range(0, n_out):  
    11.   
  
  
  
  11.   cols.append(df.shift(-i))  
    12.   
  
  
  
  12.  # put it all together  
    13.   
  
  
  
  13.  agg = concat(cols, axis=1)  
    14.   
  
  
  
  14.  # drop rows with NaN values  
    15.   
  
  
  
  15.  if dropnan:  
    16.   
  
  
  
  16.   agg.dropna(inplace=True)  
    17.   
  
  
  
  17.  return agg.values 
    18.

我們可以使用此函數(shù)為XGBoost準(zhǔn)備時(shí)間序列數(shù)據(jù)集。

準(zhǔn)備好數(shù)據(jù)集后，我們必須小心如何使用它來(lái)擬合和評(píng)估模型。

例如，將模型擬合未來(lái)的數(shù)據(jù)并預(yù)測(cè)過(guò)去是無(wú)效的。該模型必須在過(guò)去進(jìn)行訓(xùn)練并預(yù)測(cè)未來(lái)。這意味著不能使用在評(píng)估過(guò)程中將數(shù)據(jù)集隨機(jī)化的方法，例如k折交叉驗(yàn)證。相反，我們必須使用一種稱為前向驗(yàn)證的技術(shù)。在前向驗(yàn)證中，首先通過(guò)選擇一個(gè)切點(diǎn)（例如除過(guò)去12個(gè)月外，所有數(shù)據(jù)均用于培訓(xùn)，最近12個(gè)月用于測(cè)試。

如果我們有興趣進(jìn)行單步預(yù)測(cè)，例如一個(gè)月后，我們可以通過(guò)對(duì)訓(xùn)練數(shù)據(jù)集進(jìn)行訓(xùn)練并預(yù)測(cè)測(cè)試數(shù)據(jù)集的第一步來(lái)評(píng)估模型。然后，我們可以將來(lái)自測(cè)試集的真實(shí)觀測(cè)值添加到訓(xùn)練數(shù)據(jù)集中，重新擬合模型，然后讓模型預(yù)測(cè)測(cè)試數(shù)據(jù)集中的第二步。對(duì)整個(gè)測(cè)試數(shù)據(jù)集重復(fù)此過(guò)程將為整個(gè)測(cè)試數(shù)據(jù)集提供一步式預(yù)測(cè)，可以從中計(jì)算出誤差度量以評(píng)估模型的技能。

下面的函數(shù)執(zhí)行前向驗(yàn)證。它使用時(shí)間序列數(shù)據(jù)集的整個(gè)監(jiān)督學(xué)習(xí)版本以及用作測(cè)試集的行數(shù)作為參數(shù)。然后，它逐步通過(guò)測(cè)試集，調(diào)用xgboost_forecast（）函數(shù)進(jìn)行單步預(yù)測(cè)。計(jì)算錯(cuò)誤度量，并將詳細(xì)信息返回以進(jìn)行分析。

 
 
 
 
    
  
  
  
  
  1. # walk-forward validation for univariate data  
    2.   
  
  
  
  2. def walk_forward_validation(data, n_test):  
    3.   
  
  
  
  3.  predictions = list()  
    4.   
  
  
  
  4.  # split dataset  
    5.   
  
  
  
  5.  train, test = train_test_split(data, n_test)  
    6.   
  
  
  
  6.  # seed history with training dataset  
    7.   
  
  
  
  7.  history = [x for x in train]  
    8.   
  
  
  
  8.  # step over each time-step in the test set  
    9.   
  
  
  
  9.  for i in range(len(test)):  
    10.   
  
  
  
  10.   # split test row into input and output columns  
    11.   
  
  
  
  11.   testX, testtesty = test[i, :-1], test[i, -1]  
    12.   
  
  
  
  12.   # fit model on history and make a prediction  
    13.   
  
  
  
  13.   yhat = xgboost_forecast(history, testX)  
    14.   
  
  
  
  14.   # store forecast in list of predictions  
    15.   
  
  
  
  15.   predictions.append(yhat)  
    16.   
  
  
  
  16.   # add actual observation to history for the next loop  
    17.   
  
  
  
  17.   history.append(test[i])  
    18.   
  
  
  
  18.   # summarize progress  
    19.   
  
  
  
  19.   print('>expected=%.1f, predicted=%.1f' % (testy, yhat))  
    20.   
  
  
  
  20.  # estimate prediction error  
    21.   
  
  
  
  21.  error = mean_absolute_error(test[:, -1], predictions)  
    22.   
  
  
  
  22.  return error, test[:, 1], predictions 
    23.

調(diào)用train_test_split（）函數(shù)可將數(shù)據(jù)集拆分為訓(xùn)練集和測(cè)試集。我們可以在下面定義此功能。

 
 
 
 
    
  
  
  
  
  1. # split a univariate dataset into train/test sets  
    2.   
  
  
  
  2. def train_test_split(data, n_test): 
    3.   
  
  
  
  3.  return data[:-n_test, :], data[-n_test:, :] 
    4.

我們可以使用XGBRegressor類進(jìn)行單步預(yù)測(cè)。下面的xgboost_forecast（）函數(shù)通過(guò)將訓(xùn)練數(shù)據(jù)集和測(cè)試輸入行作為輸入，擬合模型并進(jìn)行單步預(yù)測(cè)來(lái)實(shí)現(xiàn)此目的。

 
 
 
 
    
  
  
  
  
  1. # fit an xgboost model and make a one step prediction  
    2.   
  
  
  
  2. def xgboost_forecast(train, testX):  
    3.   
  
  
  
  3.  # transform list into array  
    4.   
  
  
  
  4.  train = asarray(train)  
    5.   
  
  
  
  5.  # split into input and output columns  
    6.   
  
  
  
  6.  trainX, traintrainy = train[:, :-1], train[:, -1]  
    7.   
  
  
  
  7.  # fit model  
    8.   
  
  
  
  8.  model = XGBRegressor(objective='reg:squarederror', n_estimators=1000)  
    9.   
  
  
  
  9.  model.fit(trainX, trainy)  
    10.   
  
  
  
  10.  # make a one-step prediction  
    11.   
  
  
  
  11.  yhat = model.predict([testX])  
    12.   
  
  
  
  12.  return yhat[0] 
    13.

現(xiàn)在，我們知道了如何準(zhǔn)備時(shí)間序列數(shù)據(jù)以進(jìn)行預(yù)測(cè)和評(píng)估XGBoost模型，接下來(lái)我們可以看看在實(shí)際數(shù)據(jù)集上使用XGBoost的情況。

XGBoost用于時(shí)間序列預(yù)測(cè)

在本節(jié)中，我們將探索如何使用XGBoost進(jìn)行時(shí)間序列預(yù)測(cè)。我們將使用標(biāo)準(zhǔn)的單變量時(shí)間序列數(shù)據(jù)集，以使用該模型進(jìn)行單步預(yù)測(cè)。您可以將本節(jié)中的代碼用作您自己項(xiàng)目的起點(diǎn)，并輕松地對(duì)其進(jìn)行調(diào)整以適應(yīng)多變量輸入，多變量預(yù)測(cè)和多步預(yù)測(cè)。我們將使用每日女性出生數(shù)據(jù)集，即三年中的每月出生數(shù)。

您可以從此處下載數(shù)據(jù)集，并將其放在文件名“ daily-total-female-births.csv”的當(dāng)前工作目錄中。

數(shù)據(jù)集（每天女性出生總數(shù).csv）:

 
 
 
 
    
  
  
  
  
  1. https://raw.githubusercontent.com/jbrownlee/Datasets/master/daily-total-female-births.csv 
    2.

說(shuō)明（每日女性出生總數(shù)）:

 
 
 
 
    
  
  
  
  
  1. https://raw.githubusercontent.com/jbrownlee/Datasets/master/daily-total-female-births.names 
    2.

數(shù)據(jù)集的前幾行如下所示：

 
 
 
 
    
  
  
  
  
  1. "Date","Births"  
    2.   
  
  
  
  2. "1959-01-01",35  
    3.   
  
  
  
  3. "1959-01-02",32  
    4.   
  
  
  
  4. "1959-01-03",30  
    5.   
  
  
  
  5. "1959-01-04",31  
    6.   
  
  
  
  6. "1959-01-05",44  
    7.   
  
  
  
  7. ... 
    8.

首先，讓我們加載并繪制數(shù)據(jù)集。下面列出了完整的示例。

 
 
 
 
    
  
  
  
  
  1. # load and plot the time series dataset  
    2.   
  
  
  
  2. from pandas import read_csv  
    3.   
  
  
  
  3. from matplotlib import pyplot  
    4.   
  
  
  
  4. # load dataset  
    5.   
  
  
  
  5. series = read_csv('daily-total-female-births.csv', header=0, index_col=0)  
    6.   
  
  
  
  6. values = series.values  
    7.   
  
  
  
  7. # plot dataset  
    8.   
  
  
  
  8. pyplot.plot(values) 
    9.   
  
  
  
  9. pyplot.show() 
    10.

運(yùn)行示例將創(chuàng)建數(shù)據(jù)集的折線圖。我們可以看到?jīng)]有明顯的趨勢(shì)或季節(jié)性。

當(dāng)預(yù)測(cè)最近的12個(gè)月時(shí)，持久性模型可以實(shí)現(xiàn)約6.7例出生的MAE。這提供了性能基準(zhǔn)，在該基準(zhǔn)之上可以認(rèn)為模型是熟練的。

接下來(lái)，當(dāng)對(duì)過(guò)去12個(gè)月的數(shù)據(jù)進(jìn)行單步預(yù)測(cè)時(shí)，我們可以評(píng)估數(shù)據(jù)集上的XGBoost模型。

我們將僅使用前6個(gè)時(shí)間步長(zhǎng)作為模型和默認(rèn)模型超參數(shù)的輸入，除了我們將損失更改為'reg：squarederror'（以避免警告消息），并在集合中使用1,000棵樹（以避免學(xué)習(xí)不足） ）。

下面列出了完整的示例。

 
 
 
 
    
  
  
  
  
  1. # forecast monthly births with xgboost  
    2.   
  
  
  
  2. from numpy import asarray  
    3.   
  
  
  
  3. from pandas import read_csv 
    4.   
  
  
  
  4. from pandas import DataFrame 
    5.   
  
  
  
  5. from pandas import concat  
    6.   
  
  
  
  6. from sklearn.metrics import mean_absolute_error  
    7.   
  
  
  
  7. from xgboost import XGBRegressor  
    8.   
  
  
  
  8. from matplotlib import pyplot   
    9.   
  
  
  
  9. # transform a time series dataset into a supervised learning dataset  
    10.   
  
  
  
  10. def series_to_supervised(data, n_in=1, n_out=1, dropnan=True):  
    11.   
  
  
  
  11.  n_vars = 1 if type(data) is list else data.shape[1]  
    12.   
  
  
  
  12.  df = DataFrame(data)  
    13.   
  
  
  
  13.  cols = list()  
    14.   
  
  
  
  14.  # input sequence (t-n, ... t-1)  
    15.   
  
  
  
  15.  for i in range(n_in, 0, -1):  
    16.   
  
  
  
  16.   cols.append(df.shift(i))  
    17.   
  
  
  
  17.  # forecast sequence (t, t+1, ... t+n)  
    18.   
  
  
  
  18.  for i in range(0, n_out):  
    19.   
  
  
  
  19.   cols.append(df.shift(-i))  
    20.   
  
  
  
  20.  # put it all together  
    21.   
  
  
  
  21.  agg = concat(cols, axis=1)  
    22.   
  
  
  
  22.  # drop rows with NaN values  
    23.   
  
  
  
  23.  if dropnan:  
    24.   
  
  
  
  24.   agg.dropna(inplace=True)  
    25.   
  
  
  
  25.  return agg.values   
    26.   
  
  
  
  26. # split a univariate dataset into train/test sets  
    27.   
  
  
  
  27. def train_test_split(data, n_test):  
    28.   
  
  
  
  28.  return data[:-n_test, :], data[-n_test:, :] 
    29.   
  
  
  
  29. # fit an xgboost model and make a one step prediction  
    30.   
  
  
  
  30. def xgboost_forecast(train, testX):  
    31.   
  
  
  
  31.  # transform list into array  
    32.   
  
  
  
  32.  train = asarray(train)  
    33.   
  
  
  
  33.  # split into input and output columns  
    34.   
  
  
  
  34.  trainX, traintrainy = train[:, :-1], train[:, -1]  
    35.   
  
  
  
  35.  # fit model  
    36.   
  
  
  
  36.  model = XGBRegressor(objective='reg:squarederror', n_estimators=1000)  
    37.   
  
  
  
  37.  model.fit(trainX, trainy)  
    38.   
  
  
  
  38.  # make a one-step prediction  
    39.   
  
  
  
  39.  yhat = model.predict(asarray([testX]))  
    40.   
  
  
  
  40.  return yhat[0]  
    41.   
  
  
  
  41. # walk-forward validation for univariate data  
    42.   
  
  
  
  42. def walk_forward_validation(data, n_test):  
    43.   
  
  
  
  43.  predictions = list()  
    44.   
  
  
  
  44.  # split dataset  
    45.   
  
  
  
  45.  train, test = train_test_split(data, n_test)  
    46.   
  
  
  
  46.  # seed history with training dataset  
    47.   
  
  
  
  47.  history = [x for x in train]  
    48.   
  
  
  
  48.  # step over each time-step in the test set  
    49.   
  
  
  
  49.  for i in range(len(test)):  
    50.   
  
  
  
  50.   # split test row into input and output columns  
    51.   
  
  
  
  51.   testX, testtesty = test[i, :-1], test[i, -1]  
    52.   
  
  
  
  52.   # fit model on history and make a prediction  
    53.   
  
  
  
  53.   yhat = xgboost_forecast(history, testX)  
    54.   
  
  
  
  54.   # store forecast in list of predictions  
    55.   
  
  
  
  55.   predictions.append(yhat)  
    56.   
  
  
  
  56.   # add actual observation to history for the next loop  
    57.   
  
  
  
  57.   history.append(test[i])  
    58.   
  
  
  
  58.   # summarize progress  
    59.   
  
  
  
  59.   print('>expected=%.1f, predicted=%.1f' % (testy, yhat))  
    60.   
  
  
  
  60.  # estimate prediction error  
    61.   
  
  
  
  61.  error = mean_absolute_error(test[:, -1], predictions)  
    62.   
  
  
  
  62.  return error, test[:, -1], predictions  
    63.   
  
  
  
  63. # load the dataset  
    64.   
  
  
  
  64. series = read_csv('daily-total-female-births.csv', header=0, index_col=0)  
    65.   
  
  
  
  65. values = series.values  
    66.   
  
  
  
  66. # transform the time series data into supervised learning  
    67.   
  
  
  
  67. data = series_to_supervised(values, n_in=6)  
    68.   
  
  
  
  68. # evaluate  
    69.   
  
  
  
  69. mae, y, yhat = walk_forward_validation(data, 12)  
    70.   
  
  
  
  70. print('MAE: %.3f' % mae)  
    71.   
  
  
  
  71. # plot expected vs preducted  
    72.   
  
  
  
  72. pyplot.plot(y, label='Expected')  
    73.   
  
  
  
  73. pyplot.plot(yhat, label='Predicted')  
    74.   
  
  
  
  74. pyplot.legend()  
    75.   
  
  
  
  75. pyplot.show() 
    76.

運(yùn)行示例將報(bào)告測(cè)試集中每個(gè)步驟的期望值和預(yù)測(cè)值，然后報(bào)告所有預(yù)測(cè)值的MAE。

注意：由于算法或評(píng)估程序的隨機(jī)性，或者數(shù)值精度的差異，您的結(jié)果可能會(huì)有所不同。考慮運(yùn)行該示例幾次并比較平均結(jié)果。

我們可以看到，該模型的性能優(yōu)于持久性模型，MAE約為5.9，而MAE約為6.7

 
 
 
 
    
  
  
  
  
  1. >expected=42.0, predicted=44.5  
    2.   
  
  
  
  2. >expected=53.0, predicted=42.5  
    3.   
  
  
  
  3. >expected=39.0, predicted=40.3  
    4.   
  
  
  
  4. >expected=40.0, predicted=32.5  
    5.   
  
  
  
  5. >expected=38.0, predicted=41.1  
    6.   
  
  
  
  6. >expected=44.0, predicted=45.3  
    7.   
  
  
  
  7. >expected=34.0, predicted=40.2  
    8.   
  
  
  
  8. >expected=37.0, predicted=35.0  
    9.   
  
  
  
  9. >expected=52.0, predicted=32.5  
    10.   
  
  
  
  10. >expected=48.0, predicted=41.4  
    11.   
  
  
  
  11. >expected=55.0, predicted=46.6  
    12.   
  
  
  
  12. >expected=50.0, predicted=47.2  
    13.   
  
  
  
  13. MAE: 5.957 
    14.

創(chuàng)建線圖，比較數(shù)據(jù)集最后12個(gè)月的一系列期望值和預(yù)測(cè)值。這給出了模型在測(cè)試集上執(zhí)行得如何的幾何解釋。

圖2

一旦選擇了最終的XGBoost模型配置，就可以最終確定模型并用于對(duì)新數(shù)據(jù)進(jìn)行預(yù)測(cè)。這稱為樣本外預(yù)測(cè)，例如 超出訓(xùn)練數(shù)據(jù)集進(jìn)行預(yù)測(cè)。這與在模型評(píng)估期間進(jìn)行預(yù)測(cè)是相同的：因?yàn)槲覀兪冀K希望使用模型用于對(duì)新數(shù)據(jù)進(jìn)行預(yù)測(cè)時(shí)所期望使用的相同過(guò)程來(lái)評(píng)估模型。下面的示例演示了在所有可用數(shù)據(jù)上擬合最終XGBoost模型并在數(shù)據(jù)集末尾進(jìn)行單步預(yù)測(cè)的過(guò)程。

 
 
 
 
    
  
  
  
  
  1. # finalize model and make a prediction for monthly births with xgboost  
    2.   
  
  
  
  2. from numpy import asarray  
    3.   
  
  
  
  3. from pandas import read_csv  
    4.   
  
  
  
  4. from pandas import DataFrame  
    5.   
  
  
  
  5. from pandas import concat  
    6.   
  
  
  
  6. from xgboost import XGBRegressor   
    7.   
  
  
  
  7. # transform a time series dataset into a supervised learning dataset  
    8.   
  
  
  
  8. def series_to_supervised(data, n_in=1, n_out=1, dropnan=True):  
    9.   
  
  
  
  9.  n_vars = 1 if type(data) is list else data.shape[1]  
    10.   
  
  
  
  10.  df = DataFrame(data)  
    11.   
  
  
  
  11.  cols = list()  
    12.   
  
  
  
  12.  # input sequence (t-n, ... t-1)  
    13.   
  
  
  
  13.  for i in range(n_in, 0, -1):  
    14.   
  
  
  
  14.   cols.append(df.shift(i))  
    15.   
  
  
  
  15.  # forecast sequence (t, t+1, ... t+n)  
    16.   
  
  
  
  16.  for i in range(0, n_out):  
    17.   
  
  
  
  17.   cols.append(df.shift(-i))  
    18.   
  
  
  
  18.  # put it all together  
    19.   
  
  
  
  19.  agg = concat(cols, axis=1)  
    20.   
  
  
  
  20.  # drop rows with NaN values  
    21.   
  
  
  
  21.  if dropnan:  
    22.   
  
  
  
  22.   agg.dropna(inplace=True)  
    23.   
  
  
  
  23.  return agg.values   
    24.   
  
  
  
  24. # load the dataset  
    25.   
  
  
  
  25. series = read_csv('daily-total-female-births.csv', header=0, index_col=0)  
    26.   
  
  
  
  26. values = series.values  
    27.   
  
  
  
  27. # transform the time series data into supervised learning  
    28.   
  
  
  
  28. train = series_to_supervised(values, n_in=6)  
    29.   
  
  
  
  29. # split into input and output columns  
    30.   
  
  
  
  30. trainX, traintrainy = train[:, :-1], train[:, -1] 
    31.   
  
  
  
  31. # fit model  
    32.   
  
  
  
  32. model = XGBRegressor(objective='reg:squarederror', n_estimators=1000)  
    33.   
  
  
  
  33. model.fit(trainX, trainy)  
    34.   
  
  
  
  34. # construct an input for a new preduction  
    35.   
  
  
  
  35. row = values[-6:].flatten()  
    36.   
  
  
  
  36. # make a one-step prediction  
    37.   
  
  
  
  37. yhat = model.predict(asarray([row]))  
    38.   
  
  
  
  38. print('Input: %s, Predicted: %.3f' % (row, yhat[0])) 
    39.

運(yùn)行示例將XGBoost模型適合所有可用數(shù)據(jù)。使用最近6個(gè)月的已知數(shù)據(jù)準(zhǔn)備新的輸入行，并預(yù)測(cè)數(shù)據(jù)集結(jié)束后的下個(gè)月。

 
 
 
 
    
  
  
  
  
  1. Input: [34 37 52 48 55 50], Predicted: 42.708  
    2.

網(wǎng)站欄目：用XGBoost進(jìn)行時(shí)間序列預(yù)測(cè)
新聞來(lái)源：http://www.dlmjj.cn/article/dpcedpj.html