１９４７年大分県佐伯市生まれ。京都大学工学部卒業。日立電子株式会社のミニコンピュータのシステムエンジニア。日立電子のミニコンからの撤退に伴い、Digital Equipment Corporation（DEC）Japanに転籍、通産省第五世代コンピュータプロジェクトの担当を務める中で、人工知能（AI）分野の知見を修得。米国マサチューセッツ州の DEC 米国本社人工知能技術センターに勤務。日本DECに帰任後、取締役マーケティング本部長。

その後、複数の米国系IT企業の日本法人代表を務めた後、2003年4月、Google 米国本社 副社長兼 Google Japan 代表取締役社長として Google に入社以来、日本における Google の全業務の責任者を務めて来たが、2009年1月名誉会長に就任、2011年1月1日付けで退任し、村上憲郎事務所を開設した。

現在、（株）ブイキューブの社外取締役、社団法人グリーンカラーアカデミー理事長、電通総研カウンセル兼フェロー、等も務めている。

​

現在、以下の教職にも従事している。

国際大学GLOCOM主幹研究員・教授、大阪工業大学客員教授、会津大学参与、東京工業大学学長アドバイザリーボード構成員