概述
如果程序處理的數(shù)據(jù)比較多、比較復(fù)雜，那么在程序運(yùn)行的時(shí)候，會(huì)占用大量的內(nèi)存，當(dāng)內(nèi)存占用到達(dá)一定的數(shù)值，程序就有可能被操作系統(tǒng)終止，特別是在限制程序所使用的內(nèi)存大小的場(chǎng)景，更容易發(fā)生問(wèn)題。下面我就給出幾個(gè)優(yōu)化Python占用內(nèi)存的幾個(gè)方法。
說(shuō)明：以下代碼運(yùn)行在Python3。
舉個(gè)栗子
我們舉個(gè)簡(jiǎn)單的場(chǎng)景，使用Python存儲(chǔ)一個(gè)三維坐標(biāo)數(shù)據(jù)，x,y,z。
Dict
使用Python內(nèi)置的數(shù)據(jù)結(jié)構(gòu)Dict來(lái)實(shí)現(xiàn)上述例子的需求很簡(jiǎn)單。
>>> ob = {'x':1, 'y':2, 'z':3}
>>> x = ob['x']
>>> ob['y'] = y
查看以下ob這個(gè)對(duì)象占用的內(nèi)存大小：
>>> print(sys.getsizeof(ob))
240
簡(jiǎn)單的三個(gè)整數(shù)，占用的內(nèi)存還真不少，想象以下，如果有大量的這樣的數(shù)據(jù)要存儲(chǔ)，會(huì)占用更大的內(nèi)存。
| 數(shù)據(jù)量 | 占用內(nèi)存大小 |
|---|---|
| 1 000 000 | 240 Mb |
| 10 000 000 | 2.40 Gb |
| 100 000 000 | 24 Gb |
Class
對(duì)于喜歡面向?qū)ο缶幊痰某绦騿T來(lái)說(shuō)，更喜歡把數(shù)據(jù)包在一個(gè)class里。使用class使用同樣需求：
class Point:
#
def __init__(self, x, y, z):
self.x = x
self.y = y
self.z = z
>>> ob = Point(1,2,3)
class的數(shù)據(jù)結(jié)構(gòu)和Dict區(qū)別就很大了，我們來(lái)看看這種情況下占用內(nèi)存的情況：
| 字段 | 占用內(nèi)存 |
|---|---|
| PyGC_Head | 24 |
| PyObject_HEAD | 16 |
| _ weakref_ | 8 |
| _ dict_ | 8 |
| TOTAL | 56 |
關(guān)于 __weakref__（弱引用）可以查看這個(gè)文檔， 對(duì)象的__dict__中存儲(chǔ)了一些self.xxx的一些東西。從Python 3.3開(kāi)始，key使用了共享內(nèi)存存儲(chǔ)， 減少了RAM中實(shí)例跟蹤的大小。
>>> print(sys.getsizeof(ob), sys.getsizeof(ob.__dict__))
56 112
| 數(shù)據(jù)量 | 占用內(nèi)存 |
|---|---|
| 1 000 000 | 168 Mb |
| 10 000 000 | 1.68 Gb |
| 100 000 000 | 16.8 Gb |
可以看到內(nèi)存占用量，class比dict少了一些，但這遠(yuǎn)遠(yuǎn)不夠。
_ slots_
從class的內(nèi)存占用分布上，我們可以發(fā)現(xiàn)，通過(guò)消除__dict__和_weakref__，可以顯著減少RAM中類(lèi)實(shí)例的大小，我們可以通過(guò)使用__slots__來(lái)達(dá)到這個(gè)目的。
class Point:
__slots__ = 'x', 'y', 'z'
def __init__(self, x, y, z):
self.x = x
self.y = y
self.z = z
>>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
64
可以看到內(nèi)存占用顯著的減少了
| 字段 | 內(nèi)存占用 |
|---|---|
| PyGC_Head | 24 |
| PyObject_HEAD | 16 |
| x | 8 |
| y | 8 |
| z | 8 |
| TOTAL | 64 |
| 數(shù)據(jù)量 | 占用內(nèi)存 |
|---|---|
| 1 000 000 | 64Mb |
| 10 000 000 | 640Mb |
| 100 000 000 | 6.4Gb |
默認(rèn)情況下,Python的新式類(lèi)和經(jīng)典類(lèi)的實(shí)例都有一個(gè)dict來(lái)存儲(chǔ)實(shí)例的屬性。這在一般情況下還不錯(cuò)，而且非常靈活，乃至在程序中可以隨意設(shè)置新的屬性。但是，對(duì)一些在”編譯”前就知道有幾個(gè)固定屬性的小class來(lái)說(shuō)，這個(gè)dict就有點(diǎn)浪費(fèi)內(nèi)存了。
當(dāng)需要?jiǎng)?chuàng)建大量實(shí)例的時(shí)候，這個(gè)問(wèn)題變得尤為突出。一種解決方法是在新式類(lèi)中定義一個(gè)__slots__屬性。
__slots__聲明中包含若干實(shí)例變量，并為每個(gè)實(shí)例預(yù)留恰好足夠的空間來(lái)保存每個(gè)變量；這樣Python就不會(huì)再使用dict，從而節(jié)省空間。
那么用slot就是非非常那個(gè)有必要嗎？使用__slots__也是有副作用的：
- 每個(gè)繼承的子類(lèi)都要重新定義一遍_(kāi)_slots__
- 實(shí)例只能包含哪些在__slots__定義的屬性，這對(duì)寫(xiě)程序的靈活性有影響，比如你由于某個(gè)原因新網(wǎng)給instance設(shè)置一個(gè)新的屬性，比如instance.a = 1, 但是由于a不在__slots__里面就直接報(bào)錯(cuò)了，你得不斷地去修改__slots__或者用其他方法迂回的解決
- 實(shí)例不能有弱引用（weakref）目標(biāo)，否則要記得把__weakref__放進(jìn)__slots__
最后，namedlist和attrs提供了自動(dòng)創(chuàng)建帶__slot__的類(lèi)，感興趣的可以試試看。
Tuple
Python還有一個(gè)內(nèi)置類(lèi)型元組，用于表示不可變數(shù)據(jù)結(jié)構(gòu)。 元組是固定的結(jié)構(gòu)或記錄，但沒(méi)有字段名稱(chēng)。 對(duì)于字段訪問(wèn)，使用字段索引。 在創(chuàng)建元組實(shí)例時(shí)，元組字段一次性與值對(duì)象關(guān)聯(lián)：
>>> ob = (1,2,3)
>>> x = ob[0]
>>> ob[1] = y # ERROR
元組的示例很簡(jiǎn)潔：
>>> print(sys.getsizeof(ob))
72
可以看只比__slot__多8byte：
| 字段 | 占用內(nèi)存(bytes) |
|---|---|
| PyGC_Head | 24 |
| PyObject_HEAD | 16 |
| ob_size | 8 |
| [0] | 8 |
| [1] | 8 |
| [2] | 8 |
| TOTAL | 72 |
Namedtuple
通過(guò)namedtuple我們也可以實(shí)現(xiàn)通過(guò)key值來(lái)訪問(wèn)tuple里的元素：
Point = namedtuple('Point', ('x', 'y', 'z'))
它創(chuàng)建了一個(gè)元組的子類(lèi)，其中定義了用于按名稱(chēng)訪問(wèn)字段的描述符。 對(duì)于我們的例子，它看起來(lái)像這樣:
class Point(tuple):
#
@property
def _get_x(self):
return self[0]
@property
def _get_y(self):
return self[1]
@property
def _get_y(self):
return self[2]
#
def __new__(cls, x, y, z):
return tuple.__new__(cls, (x, y, z))
此類(lèi)的所有實(shí)例都具有與元組相同的內(nèi)存占用。 大量實(shí)例會(huì)留下稍大的內(nèi)存占用：
| 數(shù)據(jù)量 | 內(nèi)存占用 |
|---|---|
| 1 000 000 | 72 Mb |
| 10 000 000 | 720 Mb |
| 100 000 000 | 7.2 Gb |
Recordclass
python的第三方庫(kù)recordclassd提供了一個(gè)數(shù)據(jù)結(jié)構(gòu)recordclass.mutabletuple，它幾乎和內(nèi)置tuple數(shù)據(jù)結(jié)構(gòu)一致，但是占用更少的內(nèi)存。
>>> Point = recordclass('Point', ('x', 'y', 'z'))
>>> ob = Point(1, 2, 3)
實(shí)例化以后，只少了PyGC_Head:
| 字段 | 占用內(nèi)存 |
|---|---|
| PyObject_HEAD | 16 |
| ob_size | 8 |
| x | 8 |
| y | 8 |
| y | 8 |
| TOTAL | 48 |
到此，我們可以看到，和__slot__比，又進(jìn)一步縮小了內(nèi)存占用：
| 數(shù)據(jù)量 | 內(nèi)存占用 |
|---|---|
| 1 000 000 | 48 Mb |
| 10 000 000 | 480 Mb |
| 100 000 000 | 4.8 Gb |
Dataobject
recordclass提供了另外一個(gè)解決方法：在內(nèi)存中使用與__slots__類(lèi)相同的存儲(chǔ)結(jié)構(gòu)，但不參與循環(huán)垃圾收集機(jī)制。通過(guò)recordclass.make_dataclass可以創(chuàng)建出這樣的實(shí)例：
>>> Point = make_dataclass('Point', ('x', 'y', 'z'))
另外一個(gè)方法是繼承自dataobject
class Point(dataobject):
x:int
y:int
z:int
以這種方式創(chuàng)建的類(lèi)將創(chuàng)建不參與循環(huán)垃圾收集機(jī)制的實(shí)例。 內(nèi)存中實(shí)例的結(jié)構(gòu)與__slots__的情況相同，但沒(méi)有PyGC_Head：
| 字段 | 內(nèi)存占用(bytes) |
|---|---|
| PyObject_HEAD | 16 |
| x | 8 |
| y | 8 |
| y | 8 |
| TOTAL | 40 |
>>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
40
要訪問(wèn)這些字段，還使用特殊描述符通過(guò)其從對(duì)象開(kāi)頭的偏移量來(lái)訪問(wèn)字段，這些對(duì)象位于類(lèi)字典中：
mappingproxy({'__new__':
,
.......................................
'x':
,
'y':
,
'z':
})
| 數(shù)據(jù)量 | 內(nèi)存占用 |
|---|---|
| 1 000 000 | 40 Mb |
| 10 000 000 | 400 Mb |
| 100 000 000 | 4.0 Gb |
Cython
有一種方法基于Cython的使用。 它的優(yōu)點(diǎn)是字段可以采用C語(yǔ)言原子類(lèi)型的值。例如：
cdef class Python:
cdef public int x, y, z
def __init__(self, x, y, z):
self.x = x
self.y = y
self.z = z
這種情況下，占用的內(nèi)存更小：
>>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
32
內(nèi)存結(jié)構(gòu)分布如下:
| 字段 | 內(nèi)存占用(bytes) |
|---|---|
| PyObject_HEAD | 16 |
| x | 4 |
| y | 4 |
| y | 4 |
| пусто | 4 |
| TOTAL | 32 |
| 數(shù)據(jù)量 | 內(nèi)存占用 |
|---|---|
| 1 000 000 | 32 Mb |
| 10 000 000 | 320 Mb |
| 100 000 000 | 3.2 Gb |
但是，從Python代碼訪問(wèn)時(shí)，每次都會(huì)執(zhí)行從int到Python對(duì)象的轉(zhuǎn)換，反之亦然。
Numpy
在純Python的環(huán)境中，使用Numpy能帶來(lái)更好的效果，例如:
>>> Point = numpy.dtype(('x', numpy.int32), ('y', numpy.int32), ('z', numpy.int32)])
創(chuàng)建初始值是0的數(shù)組：
>>> points = numpy.zeros(N, dtype=Point)
| 數(shù)據(jù)量 | 內(nèi)存占用 |
|---|---|
| 1 000 000 | 12 Mb |
| 10 000 000 | 120 Mb |
| 100 000 000 | 1.2 Gb |
最后
可以看出，在Python性能優(yōu)化這方面，還是有很多事情可以做的。Python提供了方便的同時(shí)，也需要暫用較多的資源。在不通的場(chǎng)景下，我需要選擇不同的處理方法，以便帶來(lái)更好的性能體驗(yàn).
更多有趣的文章，請(qǐng)點(diǎn)擊我的博客
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號(hào)聯(lián)系： 360901061
您的支持是博主寫(xiě)作最大的動(dòng)力，如果您喜歡我的文章，感覺(jué)我的文章對(duì)您有幫助，請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點(diǎn)擊下面給點(diǎn)支持吧，站長(zhǎng)非常感激您！手機(jī)微信長(zhǎng)按不能支付解決辦法：請(qǐng)將微信支付二維碼保存到相冊(cè)，切換到微信，然后點(diǎn)擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對(duì)您有幫助就好】元
