machine epsilon机器精度
https://en.wikipedia.org/wiki/Machine_epsilon
对浮点数的舍入带来的相对误差的上限为机器精度,(相对误差是绝对误差与精确值的比值的绝对值)。机器精度也称 macheps 或 unit roundoff
字长决定了机器精度,
内存:存储程序指令与数据
内存缓冲区:CPU将数据临时存储在内存中
内存溢出out of memory:应用系统中存在无法回收的内存或使用的内存过多,最终使得程序运行要用到的内存大于能提供的最大内存。此时程序就运行不了,系统会提示内存溢出。也有可能故意为之,从而破坏程序运行、趁著中断之际并获取程序乃至系统的控制权。
https://www.cnblogs.com/mlgjb/p/7991903.html
CPU—Cache—内存—Buffer——磁盘,Buffer偏重于写,Cache偏重于读
buffer内存缓冲区
cache高速缓冲存储器
Buffer overflow缓冲区溢出
Buffer underrun缓冲区不足
Pointer指针:a pointer is an object in many programming languages that stores a memory address.
常用的数据结构:数组(Array)、栈( Stack)、队列(Queue)、链表( Linked List)、树( Tree)、图(Graph)、堆(Heap)、散列表(Hash)
字节Byte,1 Byte = 8 Bit
字长Word,32位计算机 1 Word = 32 Bit,64位计算机 1 Word = 64 Bit
字长:CPU一次能同时时处理的二进制数据位数
位Bit
Python
Data Types
https://www.w3schools.com/python/python_datatypes.asp
https://docs.python.org/3/library/datatypes.html
Text Type: str
Numeric Types: int, float, complex
Sequence Types: list, tuple, range
Mapping Type: dict
Set Types: set, frozenset
Boolean Type: bool
Binary Types: bytes, bytearray, memoryview
Numeric Types
https://segmentfault.com/a/1190000015284473
在python2时代,整型有 int 类型和 long 长整型,长整型不存在溢出问题,即可以存放任意大小的整数。在python3后,统一使用了长整型。
https://docs.python.org/3/library/sys.html#sys.maxsize
sys.maxsize
给出了Py_ssize_t(列表,字典等)所包含的变量个数,64位的计算机Py_ssize_t可最多有
2
63
−
1
2^{63}-1
263−1个变量
sys.float_info
获取浮点数类型信息sys.float_info.epsilon
获取浮点数机器精度
max=1.7976931348623157e+308
min=2.2250738585072014e-308
epsilon=2.220446049250313e-16
type(1e308)
是浮点数type(3_1_1)
是整型
Complex类型为两个整型,或两个浮点数,或一个整型与一个浮点数。浮点数大小有限制,整型大小无限制,因此对应的Complex也可确定大小有无限制
补充:
操作系统的位数与CPU的位数,操作系统通过指令调用CPU。
64位操作系统+32位CPU,则无法运行;64位CPU+32位操作系统,则可以运行,但不如64位CPU+64位操作系统。
操
作
系
统
,
C
P
U
,
指
令
集
,
三
者
如
何
运
作
?
\color{red}操作系统,CPU,指令集,三者如何运作?
操作系统,CPU,指令集,三者如何运作?
指令集
Reduced Instruction Set Computer (RISC)
Complex Instruction Set Computer (CISC)
Minimal instruction set computers (MISC)
Very long instruction word (VLIW)
Explicitly parallel instruction computing (EPIC)
One instruction set computer (OISC)
Zero instruction set computer (ZISC)
Intel与AMD的CPU指令集类型为CISC,因此单独购买计算机CPU可考虑这两家公司的。Intel:Core(酷睿)>Pentium(奔腾) >Celeron(赛扬),AMD:羿龙(phenom)>速龙(Athlon)>闪龙(sempron)。
X86指令集与AMD64(X86-64)指令集的区别https://www.cnblogs.com/libertycode/p/6013275.html
美国AMD半导体公司专门为计算机、通信和消费电子行业设计和制造各种创新的微处理器(CPU、GPU、主板芯片组、电视卡芯片等),以及提供闪存和低功率处理器解决方案,公司成立于1969年。
ARM处理器是英国Acorn有限公司设计的低功耗成本的第一款RISC微处理器。
Numpy
https://numpy.org/doc/stable/user/basics.types.html
numpy.iinfo
与numpy.finfo
来输出numpy类型支持的最大最小值
np.finfo(np.longdouble)
>>> finfo(resolution=1e-15, min=-1.7976931348623157e+308, max=1.7976931348623157e+308, dtype=float64)
np.finfo(np.double)
>>> finfo(resolution=1e-15, min=-1.7976931348623157e+308, max=1.7976931348623157e+308, dtype=float64)
np.finfo(np.clongdouble)
>>> finfo(resolution=1e-15, min=-1.7976931348623157e+308, max=1.7976931348623157e+308, dtype=float64)
Overflow Errors
np.power(100, 8, dtype=np.int64)
# 10000000000000000
np.power(100, 8, dtype=np.int32)
# 1874919424
什 么 是 E x t e n d e d P r e c i s i o n ? \color{red}什么是Extended Precision? 什么是ExtendedPrecision?