计算机的核心部件是CPU(中央处理单元)，这是一个有着众多引脚的集成电路。计算机的所有动作均由其内部的“电子运算”而最终产生。从理解的角度上，可以把CPU看作是一套“约定”的集合。当我们通过一些引脚告诉它“1”、“加”、“2”、“运算”、“输出”等信号时，通过CPU设计制作时固定好的“约定”，在其另一些引脚上输出“3”的信号并通知显示设备显示出“3”的图象，我们就此得到了结果。--这些“约定”就是该CPU的机器语言。
不同的CPU有着不同的机器语言。不同机器语言基础上的软件无法通用。某一厂商新型的CPU为了软件的通用性往往向其早期的CPU保持兼容。机器语言是一切软件(包括操作系统)的基础，是计算机最终识别并执行的指令。

任何的机器语言都只接受两种信息:“指令”和“数据”;指令是告诉CPU做什么样的动作，而数据则是动作的对象。比如上文中的“加”、“运算”等是指令，而“1”、“2”是数据。从形式上讲，指令和数据都是二进制信息。但如果将数据当成指令交给CPU处理，通常CPU会无法理解而死机;反之如果将指令当成数据交给CPU则不会引起任何恶果，因为数据不会引起CPU任何的动作。