齐泰，溧水人，本名齐德，洪武十七年，在应天府乡试中名列第一，第二年考中进士，先后担任礼部、兵部的主事。
后来，谨身殿意外被雷击中，朱元璋下令挑选在朝为官九年而且没有过错的官员陪着他去郊外祭祀祖庙，齐德被选中，朱元璋赐名泰，从此改名为齐泰。
谨身殿是南京明故宫三大殿之一，位于奉天殿、华盖殿后面，是皇帝更换朝服、册立皇后与皇太子的地方，有时皇帝也在这里接受朝贺，谨身殿后面是内廷所在。
洪武二十八年，齐泰从兵部郎中被擢升为左侍郎。朱元璋曾经问齐泰边境将领的名字，齐泰如数家珍，流利作答，朱元璋又问各种地图和户籍，齐泰从袖子里掏出一个手册呈上，里面简明扼要地记载了各种信息，朱元璋对其才能倍感惊异。
皇太孙朱允炆也一向看重齐泰。朱允炆即位后，让齐泰与黄子澄一起参与处理政务，不久，提升齐泰为兵部尚书。
朱元璋去世时留下遗诏，让各藩王在其封地哭临，不必赴京奔丧，王国的官员、百姓均听从朝廷节制。诸王听后愤愤不平，纷纷说齐泰矫诏，离间皇室骨肉亲情。
当时藩王拥兵自重，实力雄厚，野心膨胀，朱允炆对此忧心忡忡，登基后，开始与齐泰等人秘密商议削藩之事。
建文元年（公元1399年），周王、代王、湘王、齐王、岷王先后获罪被废。这年七月，燕王朱棣以“靖难”为名起兵，指斥齐泰、黄子澄为奸臣。
消息传到京师后，齐泰奏请削除燕王属籍，宣布其罪状，派兵讨伐。朱允炆于是任命长兴侯耿炳文为大将军，统兵分道北征，在真定之战中，耿炳文被燕军击败。
黄子澄推荐曹国公李景隆取代耿炳文统兵，齐泰极力劝阻，黄子澄没听。朱允炆采纳了黄子澄的建议，任命李景隆为大将军，把五十万大军交给他统领，李景隆自信满满地说很快便可以平定叛乱，“谓燕可旦夕灭”（《明史·齐泰传》）。
燕王收到李景隆统兵的消息后，十分高兴，认为李景隆不是自己的对手，“昔汉高止能将十万，景隆何才，其众适足为吾资也！”（《明史·齐泰传》）
这年冬天，李景隆果然战败，朱允炆开始心生畏惧，当时燕王上书要求严惩齐泰、黄子澄，朱允炆于是解除齐泰、黄子澄的官职，以暂缓燕王的兵锋，而实际上仍把齐泰、黄子澄留在身边，秘密商议应对燕王的计策。
李景隆给燕王写信说，齐泰、黄子澄已经被罢官，被赶出京师，燕王应立即撤兵。燕王没听。第二年，盛庸在东昌击败燕军，朱允炆祭祀祖庙，并让齐泰、黄子澄官复原职。后来，在夹河之战失败后，朱允炆再次解除齐泰、黄子澄的官职，朱棣认为这是建文帝的缓兵之计，下令加紧进攻。
朱允炆采纳齐泰的建议，厉行削藩，当时他认为以天下之力节制一隅之地很容易，后来，在与燕军交战的过程中，屡次失败，朱允炆十分后悔，进退两难。
当燕军日益逼近时，朱允炆又下旨让齐泰返回京师，齐泰还没回来，京师已经落入燕军手中。
齐泰本打算到外地召集兵马，举兵兴复。
建文二年（公元1402）六月，金川门之变后，朱棣率军进入京师，派人四处捉拿齐泰。
齐泰担心被人认出来，于是把墨水倒在马身上，后来走了一段路后，马匹出汗，墨迹脱落，有人看见后说：“这是齐尚书的马”，不久齐泰被捉到京师，不屈而死。
,
