[oeasy]python0011 - python虚拟机的本质_cpu架构_二进制字节码_汇编语言

​

程序本质

回忆上次内容

• 我们把python源文件
• 词法分析 得到 词流(token stream)
• 语法分析 得到 抽象语法树(Abstract Syntax Tree)
• 编译 得到 字节码 (bytecode)
• 字节码我们看不懂
• 所以反编译 得到 指令文件(opcode)

​

编辑

• 指令文件是基于python虚拟机的虚拟cpu的指令集
• 什么是python虚拟机呢？🤔
• 在了解虚拟cpu之前
• 我们先看看真实的cpu

真实的cpu

• 无论手机还是计算机
• 最核心器件的器件就是cpu

​

编辑

• 这个东西是个实实在在存在的实体
• 我们所说的python虚拟机能看到么？
• 就是用来运行py文件的

​​python3​​ 到底是个啥？

which python3
ll /usr/bin/python3

• 这个 python3
• 是一个符号链接文件
• 只有9字节
• 他指向 python3.8
• python3.8
• 也在 /usr/bin 里面
• 就是/usr/bin/python3.8

​

编辑

• python3.8是一个5.3M的文件
• 可以看得见
• 可以直接运行这个phthon3.8吗？

直接运行

/usr/bin/python3.8

• ​python3.8​​ 就在硬盘里呆着
• 位置就在/usr/bin/python3.8
• usr 是 unix software resource
• bin 是二进制 binary
• python3.8 是这个文件的名称
• 在运行命令的时候
• 把这个文件从硬盘装载到内存
• 然后用 cpu 开始逐行执行文件中的0101指令
• 可以把他复制到shiyanlou用户的宿主文件夹下吗？

复制

​

编辑

• 复制到shiyanlou下
• 再观察

#把/usr/bin/python3这个py文件的解释器拷贝到~(当前用户文件夹)
#cp的意思是copy
cp /usr/bin/python3 ~
#确认python3已经拷到~(当前用户文件夹)
#ls的意思是list
ls ~/python3.8
#查看python3文件细节
ls -lah ~/python3.8

• python3 指向的 python3.8 只有 5.3M
• 这个可执行文件怎么这么小？
• 5.3M 这也就是一张照片的大小
• 以前的 Python3.5 只有 4.3M
• 更小
• 目前这 5.3M 的 Python3 里面到底有什么呢？🤔

研究 python3

#用vi打开这个刚拷贝过来的python3
vi ~/python3.8

• 这个样子看起来
• 全是乱码
• 完全看不懂啊

​

编辑

• 这个东西我们确实看不懂
• 但是有人能看懂
• 谁呢？

cpu

• cpu能看懂！！！
• 这些我们看不懂的乱码
• cpu能看懂
• 这是属于cpu的机器语言
• 这就是cpu的一条条的机器指令(instruction)

​

编辑

• 机器指令码都是二进制形式的
• 我们尝试把python3.8转化为字节表现形式

以字节形式观察python3.8

vi ~/python3.8

• 用vim打开~/python3.8

​

编辑

• :
• 进入命令行模式
• ​:%!xxd​​我们可以看到这个文件的二进制形态
• ​​%​​是指的对于所有行的范围
• ​​!是执行外部命令​​
• ​​xxd​​指的是转化为 16 进制形式
• 什么是xxd命令呢？

xxd

​

编辑

• xxd 可以查看文件的二进制形态
• dump的本意是(倾倒垃圾)
• 这里指的是转储
• 把文件转储为16进制形式汇编代码形式
• ​:xxd –r​​ 可以还原回去 😉
• ​​:%!xxd​​ 转成字节形态
• ​​:%!xxd –r​​ 转回文本形态
• 反复横跳...

另存为python3.8hex

• 一行是(16)10 进制 个字节
• G
• 总共有 343148 行

​

编辑

• 这就是 真正的机器语言🤭
• cpu能执行的东西
• 真真切切看到了的
• 真的存在硬盘上 01010 的二进制可执行指令！！
• 这些指令执行出来就是我们的游乐场！！！
• 或者说是我们的python虚拟机
• 可是这个指令我们看不懂怎么办？🤔
• 先把他另存出来
• :w python3.8hex
• 把当前缓存(buffer)另存(write)为
• python3.8hex
• 对python3.8强制退出
• :q!
• 不保存修改强制退出
• python3.8hex就是我们要的机器语言的字节形态
• 可是这字节形态我们看不懂啊

汇编语言助记符

#先把~/python3对应的机器语言输出为汇编指令形式(反汇编)
objdump -d python3.8 > python3.8.asm
vi python3.8.asm

• 这次真的可以看懂了
• 减法(sub)
• 移动(mov)
• 这些指令

​

编辑

• 可以发现当前系统的架构(指令集)是x86-64
• 这些和我们刚才的字节形态有关系吗？

对比

• 用vi分窗口分别打开打开python3 和 python3.asm

vi -o python3.8hex python3.8.asm

• 下图中上半部分是机器语言

​

编辑

• 上图下半部分是机器语言对应的汇编指令助记符
• ctrl+j、ctrl+k可以上下切换
• 我们来试着找找
• python3文件中
• 机器语言的0101和cpu的汇编指令的对应关系🧐

找到了

• 先跳过下面窗格的第8行
• endbr64 意味着 64位结束分支
• 下面的sub执行的是减法

​

编辑

• 下面窗格的 第9行
• ​​/48 83​​ 找到上下的对应关系
• 也就是第一条执行的汇编指令减法(sub)
• 汇编指令是计算机 cpu 机器指令的助记符

查找对应关系

• ​​423000​​ 就是初始化(init)的 cpu 开始执行指令的地址
• 我们在上面查找48 83 有没有对应的字节
• /4883 ec08 488b...
• 在上面的窗格中
• 搜索这些字节形态

​

编辑

• 好像找到了对应关系
• 具体怎么对应的呢？
• 这台计算机用的是什么指令集呢？
• 什么是指令集来着？

指令集

• 指令集就是指令的集合

​

编辑

• 指令集也叫计算机的架构
• 不同架构的 cpu 有不同的指令集
• 我们目前的这个浏览器里面的系统用的是​​x86-64​​
• 除此之外​​arm​​、​​MIPS​​、​​RISC-V​​ 也是常用的指令集
• 指令助记符和机器语言到底是则怎么对应的呢？

回到代码

• 代码会有不同的​​section​​ 模块
• 入口是​​init​​
• 作用是初始化​​initialization​​

​

编辑

• 模块里面是具体的指令
• 比如第一句​​48 83 ec 08​​
• 为什么48 83 就可以代表减法
• 这是谁规定的呢？

查看指令集

• 这是cpu架构规定的
• 首先要明确到当前机器cpu的架构
• 反汇编里面说是x86-64

​

编辑

• 到shell里面验证一下

​

编辑

• 当前机器所用的架构指令集确实是x86_64
• 这是谁的架构呢？

搜索

• 不会了就去搜索😄

​

编辑

• 去intel官网找指令集

查询x86_64指令集

• 找到cpu的手册
• ​​https://www.intel.com/content/dam/www/public/us/en/documents/manuals/64-ia-32-architectures-software-developer-instruction-set-reference-manual-325383.pdf​​
• 可以找到指令和二进制状态之间的关系么？
• 先要找到x86-64指令集中 48 83 这条指令

​

编辑

• 注意上图中
• 100B中的B是0或1
• 100B可以是1000
• 也可以是1001
• 这确实是一条减法指令
• 而且是8位立即数和寄存器的减法运算

逐步搜索

​

编辑

• 找起来真的很费劲
• ​​48 83 ec 08​​ 对应​​sub $0x8,%rsp​​
• 确实是一条减法指令
• 确实是8位立即数和寄存器的减法运算

​

编辑

• 和objdump的结果是一致的
• 废话！！！😠
• 除了减法指令sub之外
• 还有什么别的指令呢？

各种cpu指令

• 指令那可还有很多的
• 有运算的
• 有移位的
• 加减乘除都有

​

编辑

• 这些指令的集合就是指令集
• 指令集就是cpu运行的基础！
• 这些机器语言的指令不能在别的指令集架构上运行么？

移植 port

• 想在别的指令集架构上运行程序
• 就需要移植(port)
• 移植(port)指的是从一种指令集移植到另一种指令集
• 从这个词的词源
• 可以看出欧美的航海文化基础
• port 港口
• 也可以看出我们的农耕文化基础
• 移植

​

编辑

• 不移植会如何呢？

不移植

• 这是playstation2的架构图
• cpu是mips架构的

​

编辑

• 不移植的话
• 就是让x86架构的pc
• 去直接执行这些基于mips架构的的0101...
• 就像让一个意大利泥瓦匠看一份中文写成的烹饪书来砌墙
• 鸡同鸭讲
• 驴唇不对马嘴
• 0101的文件执行出来全是乱的
• 完全不能用
• 而且不全是软件的问题
• 也涉及到硬件等方面
• 可能某个寄存器在新架构中根本就不存在

架构师

• 这个时候架构师要解决相当多的问题
• 很不容易的

​

编辑

• 落实到我们的python3.8游乐场
• 我们的python3.8就是这样的一系列的cpu指令
• 可以解释py文件的
• python3.8 又是如何解释py文件的来着？

python3 执行过程

• 不管是python3这个游乐场
• 还是hello.py这个python程序
• 都在我们的硬盘上

​

编辑

• 先得把文件从硬盘读到内存

python3 执行的过程大致是这样

• 先把python3.8这个主解释器加载到内存中
• 然后在x86-64的cpu上执行
• 模拟出一台python虚拟机

​

编辑

• 准备开始对py文件解释执行

先编译

• 然后把参数​​hello.py​​ 这个需要执行的程序加载到内存
• 词法分析 得到 词流(token stream)
• 语法分析 得到 抽象语法树(Abstract Syntax Tree)
• 编译 得到 字节码 (bytecode)

​

编辑

• 也就是编译后的pyc文件

解释执行

• 不过这个pyc指令文件
• 是基于python虚拟机的虚拟cpu的指令集的

​

编辑

• 需要放到模拟好的python虚拟机中
• 一条条指令进行执行

换句话说

• 简化版的​​hello.py​​ 的执行过程是：
• 给了​​python3​​ 一个参数​​hello.py​​
• 使用​​python3​​ 这个解释器来解释执行​​hello.py​​
• ​​hello.py​​中的语句一句句地依次解释执行
• 全解释完成后
• 退出python这个程序
• 把控制权交回到shell

​

编辑

• 这些都是基于解释器python3.8的
• 所谓的解释器也是
• 先编译成python虚拟机的字节码
• 然后用python虚拟机解释直接执行
• 而解释器(python3)是在不同系统不同架构的cpu语言上运行的
• 那不同的系统、cpu架构
• python都能正确地解释么？

​

编辑

架构的层次

• 不同架构的 cpu 都可以运行 python
• risc-v
• arm
• x64
• mips
• 龙芯

​

编辑

• 不同系统的环境都可以运行 python
• win
• mac
• linux
• freebsd

跨架构跨平台原理

• 由于python3可以运行在不同的cpu架构和系统上
• 所以同样的py文件被加载之后
• python程序可以对py文件跨架构、跨系统进行解释执行
• 一次编写到处运行

​

编辑

• 不同的架构
• 二进制对应的汇编指令都不一样
• 怎么能正确解释执行同样的python程序呢？

跨架构跨平台原理

• ​/usr/bin/python3.8​​ 本身是二进制文件
• 是基于当前操作系统当前架构编译出来的可执行二进制文件
• 不同的架构有不同的编译器
• 不同的编译器编译出来的python3.8
• 是不同的二进制指令序列

​

编辑

• ​python3.8​​ 构建了一个运行时环境
• 这个环境可以解释读到的​​python语句​​
• 把​​python语句​​翻译成系统能读懂输入输出
• 翻译成当前架构能够执行的代码
• 然后边解释边执行
• 恭喜您完成了非常烧脑一个实验！
• 我们去总结吧！！！

总结

• ​python3​​ 的程序是一个 5.3M 的可执行文件
• ​​python3​​ 里面全都是 cpu 指令
• 可以执行的那种
• 我们可以把指令对应的汇编找到
• ​​objdump -d ~/python3 > python3.asm​​
• 汇编语句是和当前机器架构的指令集相关的
• ​​uname -a​​可以查询指令集
• 我们执行的过程其实就
• 系统执行​​python3​​这个可执行文件
• 给了​​python3​​一个参数​​hello.py​​
• ​​python3​​对于​​hello.py​​一句句的解释执行
• 在显示器输出了​​hello world​​
• ​​python3​​执行完毕
• 把控制权交回给 shell
• 这就是我们执行hello.py的过程
• 为什么我们学编程总是从hello world开始呢？🤔
• 我们下次再说！👋
• 蓝桥->https://www.lanqiao.cn/teacher/3584
• github->GitHub - overmind1980/oeasy-python-tutorial: 良心的 Python 教程，面向零基础初学者简明易懂的 Python3 入门基础课程。在linux+vim生产力环境下，从浅入深，从简单程序学到网络爬虫。可以配合蓝桥云上实验环境操作。
• gitee->oeasy教您玩转python教程: 面向零基础初学者的简明易懂的 Python3 入门课程，对没有编程经验的同学也非常友好。在vim下从浅入深，逐步学习。从基础入门学习到爬虫。
• 视频->​​https://www.bilibili.com/video/BV1CU4y1Z7gQ​​

​