生成 AI 企業 Anthropic の共同創業者兼社長を務める Daniela Amodei 氏にとって、自分の専門分野への関心が突然高まったことは、自身の取り組みを見つめ直すきっかけとなりました。同氏は次のように述べています。「全世界が AI に対してどう反応するかについて考えようとしても、圧倒される思いがします。私たちは、なぜこのようなことを行ったのかを自問しなければなりません。なぜ Anthropic を創業したのか。それは、AI システムを開発当初から安全なものにしたいという思いからです」

公益法人として登録され、AI の安全性と研究を専門とする Anthropic は、2 月以降、Google との提携を発表し、4 億 5,000 万ドルの資金調達ラウンドを完了して、Claude チャットボットをリリース しました ( 昨日リリースされた最新モデルの Claude 2 も含まれます)。それまでの 2 年間は、大規模言語モデルの開発を急ピッチで進めつつ、研究発表を行い、メディアや政治だけでなく、テクノロジーそのものの世界でも人工知能に関する議論をリードすることで会社を拡大してきました。こうした成長の中で、Anthropic は Stripe に注目しました。同社は、Stripe の決済プラットフォームが持つ拡張性と国際的な視点により、世界中で急速に増加している顧客にサービスを提供できるだろうと確信しています。

Amodei 氏がこれほどまでに壮大な使命を重視する理由、そして、人類全体に利益をもたらすことを目指す企業こそが競争の激しい市場で成功できると考える理由について、本人に伺いました。

Anthropic という社名の由来を教えてください。なぜこの言葉を選んだのでしょうか。

理由の一つは、「Anthropic」が人間とのかかわりを意味することです。私たちは、世界と対話する強力な生成 AI ツールを開発するにあたって、その物語の中心に存在するのが人間であり続けるようにすることが重要であると考えています。私たちは、ユーザーがやりたいことをやり、望む人生を生きるためのパートナーや協力者として、Claude が活用されることを望んでいます。また、当社のプロセスの中心にも必ず人間が存在するようにしています。それが人間のフィードバックによる強化学習であっても、AI が世界に与える影響をより幅広く考えるだけであってもです。

Anthropic を創業する際は、その使命をどのようにして具体的なプロジェクトに落とし込んだのですか。

OpenAI を離れた当初、私たちは大規模な生成言語モデルを再びゼロから構築しなければなりませんでした。そのため、最初の年は、会社を立ち上げて軌道に乗せ、資金を調達し、土台を築いて、この大規模な言語モデルをトレーニングすることに専念しました。

しかし、それに加えて、一般に市販される最も安全なモデルにするために、安全性の研究も行っていました。当初、私たちは 6 チーム編成といった構成で、そのほとんどが、モデルのほかに、または直接的に、安全性に取り組んでいました。製品を展開する計画は常にありましたが、実に 6 ～ 9 カ月ほど前まで、私たちは研究屋だったのです。

これらの問題に物理学者を関与させているメリットは何ですか。意図的にそうしているのでしょうか。

私の兄であり、当社 CEO の Dario は物理学の博士号を持っています。また、共同創業者の 1 人であり、最高科学責任者の Jared Kaplan も同じく物理学の博士号を持っています。そのため、物理学者が関与している理由の一部はつながりによるものです。とはいえ、当社の定評ある成果の多くは、物理学に関する経歴のある人々によるものであるとも考えています。当社は特に、GPT-3 を開発したチームであることと、こちらのスケーリング則、すなわち、生成 AI システムで特定の機能がいつ出現するかを予測する方法に関する論文を発表したことの 2 点でよく知られていると思いますが、この研究は AI に物理の原理を適用することから始まったものです。

しばらく前からこの分野に携わってきたわけですが、世界の人々にとっては、AI は突然一気に現れたようなものです。このブームの真っ只中に会社の創業者であるのはどんな気分ですか。

夫に話したことがあるのですが、ときどき、急いで階段を降りているときのような感じがします。転げ落ちてしまわないように、深く考えすぎないようにしています。自らを見つめ直さないというわけではなく、私が本当に重要だと感じているのは、自分たちの原則に基づいて行動し、役割を果たすということです。世界中が AI に対してどう反応するか、さまざまなグループや利害関係者がどのように関わってくるかについて考えようとしても、圧倒されるような感じがします。ですから、私たちは、なぜこのようなことを行ったのかを自問しなければなりません。なぜ Anthropic を創業したのか。それは、AI システムを開発段階から安全なものにしたいからです。

投資家や見込まれるパートナーに用心深さや慎重さの重要性をどのように納得してもらい、認めさせたり、売り込んだりするのですか。

市場では信頼と安全が求められていると思います。私たちが行っていることは、道徳的な観点からも、ビジネス観点からも良いことであると考えています。もちろん、この 2 つは対立する場合もあるかもしれませんが、私たちの経験からは、この 2 つはかなり両立できるものであると感じています。

個人や企業は、有害な出力や不誠実な出力、または役に立たない出力を生成するモデルは望みません。消費者に「言語モデルはいかがですか。2 回に 1 回は嘘をつくし、有害なコンテンツを生成することもありますけど」と言っても、「いいですね、お金を出しましょう」とはならないでしょう。ユーザーは現在の偽陽性率をかぎりなくゼロに近づけられる、安全なモデルを望んでいます。

普段はどのように過ごしていますか。

私はもともと朝が得意な方ではありませんが、朝型のスケジュールに変えました。ほぼ毎日早朝に運動をして、息子の Galileo と夫と一緒に過ごしています。1 日を良い気分でスタートすることができます。

仕事のある日は最初の数時間をできる限り空けておき、大型プロジェクトに取り組んだり、物事をオープンに考える時間を持ったりするようにしています。1 日の残りの時間はミーティングで埋まっています。メーカーとして参加するより、マネージャーとして参加するミーティングのスケジュールの方がはるかに多く、内容は 1 対 1、チームでの情報共有、社外イベント、戦略および意思決定の会議、採用など、多岐にわたります。また、新入社員になるべく接し、Anthropic での経験について聞く機会を設けるようにしていますが、これは会社が大きくなるにつれて難しくなってきています。

Tyler Cowen 氏が Bloomberg に最近寄稿した記事には、AI によって製品が自律的に管理されるようになるため、私たちが知っているような大企業形態の終焉が訪れるのではないかと書かれています。Anthropic は最終的に人員を増やす必要があると思いますか。

研究者 1 人あたりが生み出す価値は、おそらく従来の企業で見られるよりも高いでしょうが、それでも、製品の販売やカスタマーサポート、品質管理を行うには一定数の人員が必要です。Claude v1 を開発したとき、私たちは約 60 名の組織でした。現在は 140 名近くが在籍していますが、増員のほとんどはビジネスと製品に関する業務、すなわち顧客サポートや信頼と安全に関する取り組みに充てられています。