据说，这一词语的来历有二。一说东汉时期，流通有三种货币：黄金、白银和五铢钱。其中五铢钱简称钱，一千个五铢钱用绳子串起来称为一吊钱。在互相兑换方面，一吊钱可以兑换一两白银，而七十两白银可以兑换一两黄金，而当时的一斤等于十六两，也就是说半斤即是八两，这就是半斤八两的来历之一。
另一说法认为秦统一六国之后，秦始皇下令统一度量衡，由丞相李斯负责起草文书。李斯制定了钱币、长度等方面的标准，但在重量方面没有拿定主意，于是便向秦始皇请示。秦始皇提笔写下了“天下公平”以作批示，但并没有给出确切的数目参考。李斯为了避免以后遭到罪责，决定将“天下公平”这四个字的笔画数（一共16画）作为重量标准，于是确定了一斤等于十六两的规则，半斤自然就是八两
