数多くのAI(人工知能)スタートアップに積極的に投資したソフトバンク・ビジョン・ファンドが2022年に巨額の損失を計上したのは記憶に新しいが、それでも米国では再びAIスタートアップが巨額の資金を集め始めている。今度の主役は、米グーグルや米オープンAIなどで巨大言語モデルや生成AIの重要な論文を執筆した有力研究者が独立して起業したスタートアップである。
代表例が企業向けに巨大言語モデルをサービスとして提供する米アンソロピックだ。同社は2023年2月3日(米国時間)にグーグルとの業務提携を発表したが、それと同時にグーグルはアンソロピックに3億ドルを投資し、同社の株式の10%を取得したと英紙フィナンシャル・タイムズ(FT)が報じている。アンソロピックの企業価値は30億ドルに達する計算だ。
アンソロピックの創業者でCEO(最高経営責任者)を務めるのは、オープンAIの元幹部でGPT-2の論文「Language Models are Unsupervised Multitask Learners」やGPT-3の論文「Language Models are Few-Shot Learners」の共著者であるダリオ・アモデイ氏。同氏は複数のオープンAIの同僚とアンソロピックを起業した。
米アルファベット傘下の英ディープマインドからは、テキスト以外にも画像や動画などを扱えるマルチモーダルの巨大言語モデルFlamingoの論文の共著者であるカレン・シモヤン氏が独立し、AIスタートアップである米インフレクションAIの創業に参画している。FTはインフレクションAIが6億7500万ドルの資金調達を交渉中と報じた。同社にはGPT-2論文とGPT-3論文の両方に名を連ねるリウォン・チャイルド氏も参画する。
チャイルド氏はオープンAIでGPT-2やGPT-3の他、Transformerを画像生成などに応用したSparse Transformersなどの開発に参加し、その後はグーグルのAI開発チームに移籍。グーグルが開発する巨大言語モデルPaLMの論文「PaLM: Scaling Language Modeling with Pathways」にも名を連ね、その後にインフレクションAIに参画した。
優れた研究者の先見性と行動力
実は筆者は2015年末、チャイルド氏がオープンAIに転じる以前に米サンフランシスコで取材したことがある。当時チャイルド氏は、レントゲン写真などから肺がんなどの悪性腫瘍を見つけ出すAIを開発するスタートアップに所属していた。
筆者は取材時、チャイルド氏に「今、興味があるAI技術は何か」と質問しており、その際チャイルド氏は「アテンション(注意機構)だ」と教えてくれた。しかし残念ながら筆者は当時、アテンションがどのような技術か、なぜ重要かを理解できなかったため、当時の記事にその内容を盛り込めていない。
その後、2019年にグーグルが巨大言語モデルのBERTを、オープンAIがGPT-2を発表して初めて、筆者は言語を生成するAIの著しい進化に気付き、それらAIの基盤に自己注意機構(セルフアテンション)であるTransformerが存在することを知った。チャイルド氏が教えてくれてから4年後にようやく、アテンションの重要性を理解できたわけだ。
それに対してチャイルド氏は、グーグルが2017年にTransformerを発表する以前からアテンションに着目。研究分野を画像認識から自然言語処理に移し、オープンAIやグーグルで成果を上げた。優れた研究者の先見性や行動力には驚かされるばかりである。
オープンAIやグーグルなどで活躍した優れた研究者が、スタートアップに転じてどのような製品を生み出すのか。その動向に注目したい。
