米国から帰国後は、
日立製作所へ入社し
高速増殖炉の設計技師として勤務。2年後に退職し、原子力の世界から引退する。同年新設されたばかりの米国系経営コンサルティング会社
マッキンゼー・アンド・カンパニーへ転職。同社入社後より経営の勉強を始め、その勉強過程をノートにまとめた著書『企業参謀(1975年)』を出版する。『企業参謀』は、ビジネス初心者にもわかりやすいビジネス書としてベストセラーになる。経営コンサルタントとして活動を始め、
中曽根康弘に経済政策提言・助言をしたことで広くマスメディアに知られるようになる。マッキンゼー・アンド・カンパニー日本支社長、アジア太平洋支局長、日本法人会長を歴任し独立する。
月刊誌「
文藝春秋」3月号で「新・薩長連合結成宣言」を発表。知事連盟構想を掲げ、
1995年東京都知事選挙に政策を中心にすえ立候補するも、「都政から隠し事をなくす」ということを中心に訴えた
青島幸男に敗れた。(当時
都議会新進党松原仁や
古賀俊昭の支援も受けた。同月の
北海道知事選では、同構想に呼応した友人の
三浦雄一郎も出馬し落選)。時を置かずして行われた
参院選に
比例区から、自身と三浦雄一郎ら10人で出馬するも全員落選。この時の選挙戦の体験を元に『大前研一 敗戦記』(1995年、
文藝春秋)を出版し、その中で、この一件によって知己のあった財界人達から一時期疎んじられるようになり、選挙資金として私財6億円を失ったことを告白している。都知事選ではマスコミにも有力候補として扱われたが、参議院選挙では
泡沫候補扱いされたことを述懐している。また、
ユダヤの手先説を始め、
フリーメイソン、
統一教会、
勝共連合、
半島出身説などの
流言を流されたという。統一教会説の発信源が
石原慎太郎であることを知ると抗議したが、「いや、そういう噂があるから調べとけ、と言っただけだ。自分がそう思っているわけではない。自分も最初の(選挙の)ときは世話になったことがある。」といわれたという。