南アフリカは、チャットボットの“豊かな想像力”の中にしか存在しない出典を挙げていることが分かったとして、AIの暫定的な国家方針案を撤回しました。

国の通信・デジタル技術省は週末に、すでに内閣を通過し、パブリックコメントに付されていたその草案には、参考文献リストに「さまざまな架空の出典」が含まれていたと確認したといいます。 

通信大臣ソリー・マラッツィは、偽の参考文献があると報じられた後、当局が草案を改めて確認し、一部の引用が実際にでっち上げられていたことが判明したため、撤回に至ったと述べました。「これは単なる技術的な問題ではなく、当該方針案の信頼性と信用性を損なうものとなった。」「これは、誰かがそれをチェックすることなくAIが生成した引用が紛れ込んでしまったように見える」とXへの投稿で彼は述べたことに加え、さらにそうした状況だと説明しています。

文書はすでに“差し戻し”となり、マラッツィは、起草や最終承認に関わった人々は「結果（の管理）」を覚悟すべきだと述べました。 

「この容認できない不手際は、人工知能の利用に対して、注意深い人間の監督が重要である理由を証明するものです。これは謙虚に受け止める教訓です」とマラッツィは述べました。「この件を、しかるべき重さで扱うことで国民に安心してほしい。」

現在は廃止となったこの政策は、将来志向の枠組みとして売り出され、「世代間の公平性」や、AIがこれからの世代を含む現代および将来の世代に利益をもたらすといった話で満ちていました。しかし今では、裏が取れない参考文献セクションの件で最も知られることになっています。

返却形式: {"translated": "翻訳されたHTML"}

地元メディアNews24は、同レポート内の少なくとも6件の参照が捏造されたものだと報じており、専門家たちは、これらの誤りが典型的なAIのハルシネーションと一致していると述べた。表面上は説得力があるが、下ではまるごと作り話だというわけだ。 

News24の報道が出た後、同省を監督する議会のポートフォリオ委員会の委員長であるKhusela Sangoni-Dikoは、文書がさらなる当惑を招く前にマラツィにそれを取り下げるよう、公開の場で命じた。さらに、今回は「ChatGPTを使う」ことをやめ、「政府はスケープゴートを探すのをやめるべきだ」とし、いわゆる「scape-bot（スケープボット）」は避けるべきだとも示唆した。

• トランプのゴールデン・ドーム、請負業者に32億ドル（BN）の資金とAIのひとふり
• サイバーセキュリティは割に合わない仕事だ：業務量は増え、給与パッケージは縮む
• Anthropicの魔法のコード・スニファー：今はチェダーよりスイスチーズ（穴だらけ）だ
• まっすぐ売り込みへ！ Windowsのセカンドチャンス設定が、ITの手間を食いながらMicrosoftのサービスを売り込む

総じて、これは、AIのルールを定めようとしている政府にとっては実に見栄えがいい。なぜなら、その自国の方針でさえ、基本的なファクトチェックをクリアできていないからだ。しかも、これは一度きりの話ではない。The Registerが昨年報じたように、デロイトがオーストラリアの政府レポートの後始末を手伝う必要があった。AIが生成した引用や、さらには捏造された法廷の発言まで紛れ込んだのだ。つまり、機械に文章を書かせることは別として、それをチェックするのはまた別の話だという警鐘である。

南アフリカは、今やその教訓を痛いほど身をもって学んだ。自国のAI政策が、現実の出典と架空の出典を見分けられないのなら、他国の機械を規制する準備ができていない可能性が高い。®

この記事について

• AI
• 法務

これに近い内容