AIモデルが問題行動を起こしたり、奇妙に振る舞ったりする場面に遭遇するときがある。たいていの場合、わたしには起きたことを読者に伝える以外にできることはない。だが、その状況は近く変わることになりそうだ。
AI研究者のグループがAIが引き起こす問題を報告し、状況を追跡するためのウェブサイト「Flaw Reporting for AI（FLARE-AI）」を立ち上げた。例えば、チャットボットがマルウェアや爆弾の製造方法を生成したり、個人情報を漏らしたり、ユーザーの妄想的な考えを助長したりした場合、FLARE-AIを使って問題を知らせることができる。
この仕組みの基盤となるオープンソースのコードにより、第三者も問題の内容を確認し、AIモデルの開発企業や技術システムの問題を追跡する非営利組織MITREのような団体に報告を送ることができる。仕組みとしては、アプリやウェブサイトなどに影響が及ぶ世界規模のサービス障害について、利用者からのリアルタイムの報告を集約するDowndetectorに少し似ている。
このウェブサイトは、わたしが昨年初めて取り上げた、同グループによる人工知能（AI）の問題報告に関する継続的な取り組みを前に進める新たな試みである。このグループのメンバーは、6月に発表された連邦議会の法案についても助言している。この法案は、こうしたAIの問題行動を追跡するうえで、米政府が中心的な役割を担うことになるものだ。
「現時点では、AIシステムの問題を一元的に報告し、責任ある対応を求める仕組みはありません」と、Hugging FaceのAI政策研究者アビジット・ゴーシュは語る。ゴーシュは、コンピューター科学者のエレイン・チュー、シェイン・ロングプレとともにFLARE-AIの開発を主導した。
AIの問題を報告する共通の仕組み
この報告システムは、32の組織に所属する49人のAI専門家と共同で開発されたものだ。取り組みの概要を示した論文で研究者たちは、AIの利用がさらに広がり、エージェント型システムがより大きな力を持つようになるなかで、この取り組みが重要な役割を果たす可能性があると主張している。AIの問題を統一された方法で報告する仕組みがないことは重大な問題だと研究者たちは考えているのだ。
「とてもよい取り組みだと思います」と、シンクタンクである安全保障・新興技術センターの研究者ジェシカ・ジーは話す。現状の報告制度は分断され、AIモデルの内部の仕組みが外部から見えないという研究者たちの指摘は正しいと、ジーは言う。「AIの透明性を高めるものは、すべて支持します」
バグやサイバーセキュリティの問題はとりわけ最近、大きな注目を集めている。だがゴーシュによると、AIシステムの問題は心理的な被害、差別や偏見、偽情報など幅広い領域に及ぶ。そしてこうした問題への対応基準は企業ごとに異なることから、問題が見過ごされていることもあるという。「足並みをそろえた情報開示の仕組みがなければ、外部から透明性を求める方法がありません」とゴーシュは言う。
AIで相次ぐ問題
広く使われているAIツールで最近相次いだ事例は、この技術がいかに簡単に問題を引き起こすかを示している。
今週、LayerXという企業が、OpenAIのAtlasやPerplexityのCometを含むAI搭載ウェブブラウザをだまし、安全対策を回避させる手法を公表した。例えば、ブラウザに搭載されたAIモデルにゲームをしていると思い込ませると、ブラウザが勝手な行動を取り、ウェブサイトへの不正侵入を試みることがあるという（対象となったブラウザを提供する企業はすでにこの問題を修正したと、LayerXは報告している）。また今年4月には、セキュリティ研究者のヨハン・レーベルガーが、ChatGPTで生成した画像を使ってClaudeをだまし、個人情報を引き出す手法を発見した。
AIは、これまでにない奇妙な問題も引き起こす。昨年、OpenAIは、自社モデルがユーザーに対し過度に迎合的な受け答えをし、ときに妄想的な考えを助長しているように振る舞っていることがわかり、モデルの更新を余儀なくされた。
Humane Intelligence PBCの最高経営責任者（CEO）兼創業者ルマン・チョードリーは、FLARE-AIが、多くのAI開発企業にとって自社ツールで起きた問題を報告する仕組みを導入するための有用な手段になる可能性があると語る。ただし、こうした取り組みには大きな課題が伴うことが多いとも付け加える。
ひとつは、深刻ではないものも含めて大量に寄せられる問題の報告をどう管理するかだ。もうひとつは、信頼できて権威のある組織が支える報告の仕組みをどう構築するかだ。
米政府の制度づくり
先月、米連邦議会に提出された法案により、米政府がFLARE-AIのような取り組みを後押しする可能性がある。下院議員であるデボラ・ロス、ジェフ・ハード、ドン・バイヤーが提出したこの法案は、米国立標準技術研究所（NIST）に対し、AIの問題報告に関する基準を策定し、報告を集約する一元的なデータベースを管理するよう義務づける内容だった。ゴーシュとほかの共同主導者たちは、この法案により、AI開発企業が自社システムの問題に対応する動機が芽生えると同時に、ユーザーも用途に応じて、さまざまなシステムの安全性を確認できるようになるとしている。
AIが引き起こす問題を報告する新たな仕組みの必要性は、今後ますます高まりそうだ。OpenClawのようなエージェント型システムは問題を引き起こす可能性がより高い。コンピューターシステムを探り、ハッキングする能力が高いモデルも同様である。わたし自身もAIを巡るトラブルを報告するために、近いうちにFLARE-AIを使うことになるかもしれない。
（Originally published on wired.com, translated by Nozomi Okuma, edited by Mamiko Nakano)
※『WIRED』による人工知能（AI）の関連記事はこちら。
- AIの脆弱性報告はどうあるべきか？ 研究者らが新たな仕組みを提言
- 5つのAIモデルがわたしをだまそうとした──その一部は不気味なほど巧妙だった
- AIエージェント「OpenClaw」を使ってみた──便利だったが、最後は暴走した
雑誌『WIRED』日本版
「Future of Health 生きることの未来」好評発売中！
未来のヘルステックは、わたしたちの身体をデータ化し、管理し、延命して超長寿を実現するだろう。そのとき「生きる意味」はどのように更新されるのか？ わたしたちはどんな身体で、どんな時間を生き、どんな社会を望むのか？ 人類の根源的な問いに対峙し、その可能性を探る総力特集！ 詳細はこちら。
『WIRED』日本版のポッドキャスト、最新エピソードはこちらから。