Microsoftナデラ氏、SIモデルは「内部リスク」として扱うべきと提言

MicrosoftのナデラCEOがXへの投稿で、「SIモデル」を企業にとっての“内部リスク”として扱うべきだと述べた。あわせて、AIを統制する仕組みはモデルの外に置くよう提言したと、ITmedia NEWSが伝えている。

「内部リスク」は、セキュリティの分野で、社員や委託先など組織の内側にいる者が引き起こす脅威を指す言葉として使われる。高度なAIモデルを、組織の中で権限を持って動く存在とみなし、内部の人間に対するのと同じように監視や権限管理の対象にすべきだ、という考え方とみられる。

「統制をモデルの外に置く」という提言は、モデル自身の学習や安全対策だけに頼らず、アクセス権限、監査ログ、承認フローなど、モデルを取り巻くシステム側で制御をかけるべきだという趣旨とみられる。投稿の全文や、Microsoftの製品にどう反映されるのかは、見出しからは分からない。