新聞中心
小編給大家分享一下pandas.cut與pandas.qcut怎么用,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
pandas.cut:
pandas.cut(x, bins, right=True, labels=None, retbins=False, precision=3, include_lowest=False)
參數(shù):
1. x,類array對象,且必須為一維,待切割的原形式
2. bins, 整數(shù)、序列尺度、或間隔索引。如果bins是一個整數(shù),它定義了x寬度范圍內(nèi)的等寬面元數(shù)量,但是在這種情況下,x的范圍在每個邊上被延長1%,以保證包括x的最小值或大值。如果bin是序列,它定義了允許非均勻bin寬度的bin邊緣。在這種情況下沒有x的范圍的擴展。
3. right,布爾值。是否是左開右閉區(qū)間
4. labels,用作結果箱的標簽。必須與結果箱相同長度。如果FALSE,只返回整數(shù)指標面元。
5. retbins,布爾值。是否返回面元
6. precision,整數(shù)。返回面元的小數(shù)點幾位
7. include_lowest,布爾值。第一個區(qū)間的左端點是否包含
返回值:
若labels為False則返回整數(shù)填充的Categorical或數(shù)組或Series
若retbins為True還返回用浮點數(shù)填充的N維數(shù)組
demo:
>>> pd.cut(np.array([.2, 1.4, 2.5, 6.2, 9.7, 2.1]), 3, retbins=True) ... ([(0.19, 3.367], (0.19, 3.367], (0.19, 3.367], (3.367, 6.533], ... Categories (3, interval[float64]): [(0.19, 3.367] < (3.367, 6.533] ... ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.cut(np.array([.2, 1.4, 2.5, 6.2, 9.7, 2.1]), ... 3, labels=["good", "medium", "bad"]) ... [good, good, good, medium, bad, good] Categories (3, object): [good < medium < bad] ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.cut(np.ones(5), 4, labels=False) array([1, 1, 1, 1, 1])
pandas.qcut
pandas.qcut(x, q, labels=None, retbins=False, precision=3, duplicates='raise')
參數(shù):
1.x
2.q,整數(shù)或分位數(shù)組成的數(shù)組。
3.labels,
4.retbins
5.precisoon
6.duplicates
結果中超過邊界的值將會變成NA
demo:
>>> pd.qcut(range(5), 4) ... [(-0.001, 1.0], (-0.001, 1.0], (1.0, 2.0], (2.0, 3.0], (3.0, 4.0]] Categories (4, interval[float64]): [(-0.001, 1.0] < (1.0, 2.0] ... ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.qcut(range(5), 3, labels=["good", "medium", "bad"]) ... [good, good, medium, bad, bad] Categories (3, object): [good < medium < bad] ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ pd.qcut(range(5), 4, labels=False) array([0, 0, 1, 2, 3])
補充拓展:解決 Python 中 qcut() 運行報錯: Bin edges must be unique和drop duplicate edges by setting 'duplicates' kwarg
本次糾錯背景,來源于互金領域信用風控建模中的變量分箱處理。(附在文末)
解決 Python 中 qcut() 函數(shù)運行報錯:
Bin edges must be unique和 You can drop duplicate edges by setting the ‘duplicates' kwarg
首先,報錯如下:
然后,在qcut() 函數(shù)中設置duplicates參數(shù)為“drop”(不能設置為“raise”),解決(如下)。
本次糾錯背景,來源于互金領域信用風控建模中的變量分箱處理。如下:
# 五、變量選擇 # 特征變量選擇(排序)對于數(shù)據(jù)分析、機器學習從業(yè)者來說非常重要。 # 好的特征選擇能夠提升模型的性能,更能幫助我們理解數(shù)據(jù)的特點、底層結構,這對進一步改善模型、算法都有著重要作用。 # 至于Python的變量選擇代碼實現(xiàn)可以參考結合Scikit-learn介紹幾種常用的特征選擇方法。 # 在本文中,我們采用信用評分模型的變量選擇方法,通過WOE分析方法,即是通過比較指標分箱和對應分箱的違約概率來確定指標是否符合經(jīng)濟意義。 # 首先我們對變量進行離散化(分箱)處理。
# 5.1 分箱處理 # 變量分箱(binning)是對連續(xù)變量離散化(discretization)的一種稱呼。 # 信用評分卡開發(fā)中一般有常用的等距分段、等深分段、最優(yōu)分段。 # 其中等距分段(Equval length intervals)是指分段的區(qū)間是一致的,比如年齡以十年作為一個分段; # 等深分段(Equal frequency intervals)是先確定分段數(shù)量,然后令每個分段中數(shù)據(jù)數(shù)量大致相等; # 最優(yōu)分段(Optimal Binning)又叫監(jiān)督離散化(supervised discretizaion),使用遞歸劃分(Recursive Partitioning)將連續(xù)變量分為分段,背后是一種基于條件推斷查找較佳分組的算法。
# 我們首先選擇對連續(xù)變量進行最優(yōu)分段,在連續(xù)變量的分布不滿足最優(yōu)分段的要求時,再考慮對連續(xù)變量進行等距分段。最優(yōu)分箱的代碼如下:
# 定義自動分箱函數(shù) from scipy import stats def mono_bin(Y, X, n = 20): r = 0 good=Y.sum() bad=Y.count()-good while np.abs(r) < 1: d1 = pd.DataFrame({"X": X, "Y": Y, "Bucket": pd.qcut(X, n,duplicates="drop")}) # 后面報錯You can drop duplicate edges by setting the 'duplicates' kwarg,所以回到這里補充duplicates參數(shù) # pandas中使用qcut(),邊界易出現(xiàn)重復值,如果為了刪除重復值設置 duplicates=‘drop',則易出現(xiàn)于分片個數(shù)少于指定個數(shù)的問題 d2 = d1.groupby('Bucket', as_index = True) r, p = stats.spearmanr(d2.mean().X, d2.mean().Y) n = n - 1 d3 = pd.DataFrame(d2.X.min(), columns = ['min']) d3['min']=d2.min().X d3['max'] = d2.max().X d3['sum'] = d2.sum().Y d3['total'] = d2.count().Y d3['rate'] = d2.mean().Y d3['woe']=np.log((d3['rate']/(1-d3['rate']))/(good/bad)) d4 = (d3.sort_index(by = 'min')).reset_index(drop=True) print("=" * 60) print(d4) return d4 # 此定義函數(shù)暫未理解通透,暫且保留。這里先直接使用。 # 原帖代碼沒有導入scipy.stats模塊,會導致下一條語句運行報錯,上面補上,搞定。 # 原帖代碼qcut()函數(shù)中沒有設置duplicates參數(shù),上面補上,搞定。
# 自定義函數(shù)分箱RevolvingUtilizationOfUnsecuredLines時報錯You can drop duplicate edges by setting the 'duplicates' kwarg # 所以先回來刪除重復值。刪除后發(fā)現(xiàn)沒有解決問題,真正解決問題是在qcut()函數(shù)中沒有設置duplicates參數(shù)為“drop”(不能設置為“raise”) data=data.drop_duplicates(subset=None,keep='first',inplace=False) data.shape
(119703, 11)
# 針對我們將使用最優(yōu)分段對于數(shù)據(jù)集中的RevolvingUtilizationOfUnsecuredLines、age、DebtRatio和MonthlyIncome進行分類。
mono_bin(data.SeriousDlqin2yrs,data.RevolvingUtilizationOfUnsecuredLines)
============================================================ min max sum total rate woe 0 0.000000 0.035034 29333 29926 0.980184 1.298275 1 0.035037 0.176771 29205 29926 0.975907 1.098457 2 0.176777 0.577036 28305 29925 0.945865 0.257613 3 0.577040 50708.000000 24607 29926 0.822262 -1.071254
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 0.000000 | 0.035034 | 29333 | 29926 | 0.980184 | 1.298275 |
1 | 0.035037 | 0.176771 | 29205 | 29926 | 0.975907 | 1.098457 |
2 | 0.176777 | 0.577036 | 28305 | 29925 | 0.945865 | 0.257613 |
3 | 0.577040 | 50708.000000 | 24607 | 29926 | 0.822262 | -1.071254 |
mono_bin(data.SeriousDlqin2yrs,data.age)
============================================================ min max sum total rate woe 0 21 30 7913 8885 0.890602 -0.506093 1 31 34 6640 7383 0.899363 -0.412828 2 35 38 7594 8386 0.905557 -0.342447 3 39 41 7131 7849 0.908523 -0.307262 4 42 43 4890 5362 0.911973 -0.265031 5 44 46 8163 8868 0.920501 -0.153830 6 47 48 5776 6274 0.920625 -0.152133 7 49 51 8545 9280 0.920797 -0.149768 8 52 53 5454 5901 0.924250 -0.101453 9 54 56 7922 8463 0.936075 0.080980 10 57 59 7517 7946 0.946011 0.260466 11 60 61 4942 5200 0.950385 0.349567 12 62 64 7464 7776 0.959877 0.571844 13 65 68 6968 7212 0.966167 0.748916 14 69 75 7911 8141 0.971748 0.934931 15 76 103 6620 6777 0.976833 1.138606
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 21 | 30 | 7913 | 8885 | 0.890602 | -0.506093 |
1 | 31 | 34 | 6640 | 7383 | 0.899363 | -0.412828 |
2 | 35 | 38 | 7594 | 8386 | 0.905557 | -0.342447 |
3 | 39 | 41 | 7131 | 7849 | 0.908523 | -0.307262 |
4 | 42 | 43 | 4890 | 5362 | 0.911973 | -0.265031 |
5 | 44 | 46 | 8163 | 8868 | 0.920501 | -0.153830 |
6 | 47 | 48 | 5776 | 6274 | 0.920625 | -0.152133 |
7 | 49 | 51 | 8545 | 9280 | 0.920797 | -0.149768 |
8 | 52 | 53 | 5454 | 5901 | 0.924250 | -0.101453 |
9 | 54 | 56 | 7922 | 8463 | 0.936075 | 0.080980 |
10 | 57 | 59 | 7517 | 7946 | 0.946011 | 0.260466 |
11 | 60 | 61 | 4942 | 5200 | 0.950385 | 0.349567 |
12 | 62 | 64 | 7464 | 7776 | 0.959877 | 0.571844 |
13 | 65 | 68 | 6968 | 7212 | 0.966167 | 0.748916 |
14 | 69 | 75 | 7911 | 8141 | 0.971748 | 0.934931 |
15 | 76 | 103 | 6620 | 6777 | 0.976833 | 1.138606 |
mono_bin(data.SeriousDlqin2yrs,data.MonthlyIncome)
============================================================ min max sum total rate woe 0 0.0 3400.0 27355 30073 0.909620 -0.293996 1 3401.0 5400.0 27655 30008 0.921588 -0.138884 2 5401.0 8200.0 27925 29725 0.939445 0.138736 3 8201.0 49750.0 28515 29897 0.953775 0.423899
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 0.0 | 3400.0 | 27355 | 30073 | 0.909620 | -0.293996 |
1 | 3401.0 | 5400.0 | 27655 | 30008 | 0.921588 | -0.138884 |
2 | 5401.0 | 8200.0 | 27925 | 29725 | 0.939445 | 0.138736 |
3 | 8201.0 | 49750.0 | 28515 | 29897 | 0.953775 | 0.423899 |
看完了這篇文章,相信你對“pandas.cut與pandas.qcut怎么用”有了一定的了解,如果想了解更多相關知識,歡迎關注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝各位的閱讀!
名稱欄目:pandas.cut與pandas.qcut怎么用-創(chuàng)新互聯(lián)
文章URL:http://www.dlmjj.cn/article/idjip.html