Google DeepMindは、汎用人工知能(AGI)がもたらす社会的な影響について議論を深める新たな枠組み「DeepMind Institute」を立ち上げました。Google DeepMindや外部の研究者らが異なる立場の意見を公開し、AGI時代に向けた向き合い方を模索する場として位置づけられています。
立ち上げの背景と体制
DeepMind Instituteは、Google DeepMind共同創業者のシェーン・レッグ氏、Google幹部のジェームズ・マニイカ氏、そしてGoogle DeepMindの会長を務めるデミス・ハサビス氏の3人が運営に携わる形でスタートしました。レッグ氏がマネージングエディターを担い、専門家同士が意見を戦わせながら知見を積み重ねていく運営方針が採られています。関係者は、参加者全員が常に同じ結論に至るとは限らず、新しい知見が明らかになるたびに主張を修正していくことも織り込み済みだとしています。技術者だけでAGIの開発や展開のあり方を決めるべきではないという考え方が土台にあり、人文学や政策立案の視点も交えた社会全体での議論を目指す姿勢がうかがえます。
初回公開の4本のエッセイ
発足にあわせて4本のエッセイが公開されました。1本目はAGIによる経済的な混乱にどう向き合うかという政策論、2本目はAIモデルの思考過程を人間が読み取れる状態に保つ「透明性」に関する考察、3本目は人類の繁栄に向けた基本原則、4本目はAIモデルの安全性評価の枠組みを扱っています。
透明性を論じたエッセイでは、モデルの推論過程を外部から確認できる余地が新しいアーキテクチャの登場とともに狭まりつつある現状に触れ、開発者や規制当局がこのトレードオフに正面から向き合う必要性を指摘しています。具体的には、モデルが読み取り可能な推論の記録を残さずに実行できる計算量を制限したり、透明性が低いシステムでも監視可能であることを開発者に証明させたりする案が挙げられています。
米国主導の評価機関を提案
評価の枠組みを扱ったエッセイでは、最先端のAIモデルを審査する米国主導の標準化団体を新設する案が示されています。当初は開発者がモデルの公開前、最大で30日前までに自発的に審査へ提出する仕組みとし、評価体制が有効に機能すると確認できた段階で、米国内で最先端モデルを展開するための要件へと段階的に格上げしていく構想です。審査基準は当面AI企業との協議を通じて設計されるものの、将来的には独立した基準へ発展させる方針も示されています。
まとめ
Google DeepMindが立ち上げたDeepMind Instituteは、AGIの社会的な影響を単独の企業だけで判断せず、幅広い立場の声を集めて議論する場として位置づけられています。初回のエッセイ群では、経済政策から透明性の確保、評価機関の設計まで多岐にわたるテーマが取り上げられており、今後もAGIをめぐる議論の動向を示す発信源として注目されそうです。
