烟草出现时，最初的抽烟方式就是用烟斗了，有了烟草，烟斗就诞生了。
烟斗的历史源远流长，它作为人类发明吸烟的一个证据，数千年以来未被人所关注。最初古人用石头做烟斗，或者用一个小的圆锥体在地上挖两个连在一起的洞，一个洞里放入具有芬芳香味和麻醉作用的植物树叶，吸烟者躺在另一个洞边吸着烟，或者索性将这些植物直接撒在火中，坐在边上吸入燃烧出的烟。
考古学家在美国大陆发掘出古人在公元前3000年至公元前2000年用的石头烟斗；在埃及，在4000年前的木乃伊边发现有树叶和烟斗的残余物。阿兹台克人（Aztec）和玛雅人的考古痕迹表明，使用烟斗已经是他们生活中的一种文化。
在阿兹台克人的生活中，烟斗除了被用于宗教性的典礼外，还有社交的功能，经常在用餐结束时大家一起分享。这个习惯已然经过美洲大陆流传给玛雅人，使得他们也有这样的传统。智利的北部，考古学家发现了一种在公元600年前用石头做的烟斗，形状是两个烟道共连着一个斗钵，和公元200年到公元400年用陶瓷制成的烟斗形状一样，这充分表明了吸烟的历史源远流长。
在阿根廷科尔巴（Cordoba）的考古学博物馆中，有一个马赛克拼成的图案，描绘了二世纪一个在吸烟斗的罗马人。全世界有很多例子可以证明，烟草消费改革了欧洲的关税和生活习惯。分析表明，美国的土著人是世界最早吸烟的人，他们将烟草用于神圣的宗教典礼，用于表达友谊，而且也是一个重要的贸易内容。在早期西班牙作家的著作中，提到了将烟草用于唤起祖先的灵魂拯救病人的仪式中。在所有与巫术有关的仪式中，烟草扮演了一个重要的角色。
1492年，哥伦布到达了美洲，在他的航海日志上记录了土著人在吸烟草；同年11月13日，他已经开始采购烟草。这个日志是第一个关于烟草的书面记录，虽然有很多证据表明烟斗普遍被用于许多美洲北部的区域。罗德里戈Ÿ德Ÿ杰瑞兹（Rodrigo de Jerez）是哥伦布的一位水手，用了土著人的一个烟斗吸烟，他将这个习惯通过西班牙引入欧洲。从那一刻起，烟草开始有了历史记录，同时通过在欧洲的传播，加速了烟斗的演化。杰瑞兹也被称为欧洲第一位烟民。
1534年，法国探险家Jacques Cartier发现了今天的加拿大。登陆以后，他在笔记中描述了他见到本地人抽烟的烟斗。
1535年出版的航海学家裴南德斯·奥维多氏的《印第安通史》是最早谈到吸烟的著作之一。
在欧洲，虽然说抽烟斗的历史是从公元1500年开始的。但事实上，则要比哥伦布发现新大陆还要早。塞尔特人(Celts)早就有将具有香味的药草放入自制的铁烟斗来吸食的习惯。考古学家曾分别在意大利、俄罗斯及爱尔兰等地出土过铁和陶土做的烟斗。在意大利的庞贝古城中就有一幅壁画《The Knucklebone Player》，其中清楚地描绘了一个人正享受着抽烟斗的乐趣。只是直到哥伦布发现新大陆时，欧洲人才知道烟草的存在。
1550年，一个叫吉恩·尼古特·维耶曼（Jean Nicot de Villemain）的法国大使在里斯本发现了烟草可以治疗头痛；1560年，烟草已经被欧洲大陆所熟知，在皇后凯萨琳Ÿ德Ÿ梅迪奇（Catherine de Medici）的温室里，已经开始播种烟草的种子和制作干的烟叶了。
从1564年开始，水手使用白垩土制成的烟斗来吸食烟草。
1585年，华特Ÿ洛利（Walter Raleigh）将烟草介绍给伊丽莎白女王。在16世纪的最后四分之一时间，第一个用泥土制造烟斗的人在英国斯塔弗德郡和什罗普郡出现。
1600年，铁烟斗被用于挪威。
1604年，英国的詹姆士一世发动了第一个反烟草活动。
1618年~1648年的战争期间，吸烟斗的习惯在美洲大陆各处传布。大约在1650年，伦敦已经有了120个熟练的烟斗制造者，在布里斯托尔有17个。英国人使烟斗流行并且是第一个开放买卖泥土烟斗的国家；在荷兰豪达（Gouda）也开始买卖烟斗，而且一直维持到19世纪初。
在欧洲，第一个木制烟斗于1650年出现在德国的乌尔姆（Ulm）,一个因为烟斗制造出名的城市。烟斗制作材料主要是胡桃木和其他树种如橡树、山毛榉、榆树和黄杨木，外面被铁皮包裹，避免他们过热。几个世纪以来，许多材料已经被成功地用于制作烟斗：从中东的水烟斗，到用橡胶树的枝叶；从黑铜、象牙和黑檀树，到那些玉米芯和密苏里海泡石。跨过大西洋，中国人也已经利用多种材料做成烟斗，包括水烟斗。
传入中国后，始被成为“烟抖”，鸦片烟枪下端呈斗状的金属(或陶质)物，用以置烟泡燃吸。《林则徐日记·道光十八年九月初十日》：“搜缴鸦片烟枪一千七百五十四杆，并烟抖、烟具，俱搥碎焚毁。”后作为烟具使用，刘半农《扬鞭集·一个小农家的暮》诗：“他衔着个十年的烟斗，慢慢地从田里回来。”《北京人》第二幕：“口里叼着一个烟抖，冒出一缕缕的烟。”钱锺书《围城》六：“英国导师一边抽烟斗，一边跟学生谈话的。”
