Microsoftのナデラ氏、AIモデルには「緊急ブレーキ」が必要と発言

Microsoftのサティア・ナデラCEOが、AIモデルには「緊急ブレーキ」が必要だとの考えを示した。TechCrunchが報じた。

「緊急ブレーキ」という言葉は、AIが想定外の動きをしたときに、人間が止められる仕組みを指しているとみられる。AIは質問に答えるだけの存在から、ユーザーに代わってソフトウェアを操作したり、複数の作業を自律的にこなしたりする「エージェント」へと役割を広げている。自律的に動く範囲が広がるほど、誤った動作を途中で止める手段の重要性は増す。

Microsoftは、AIを自社の業務ソフトやクラウドに広く組み込んでいる企業の一つだ。その経営トップが制御の仕組みの必要性を口にしたことは、AIの安全性を規制当局や研究者だけの論点ではなく、製品を提供する側の課題として位置づけたものと受け止められる。

ただし、発言がどの場でなされたのか、ブレーキを技術的にどう実現するのか、業界の標準にしようとしているのか、あるいは規制のあり方に言及したものなのかは、見出しからは確認できない。詳細は出典を参照してほしい。