AI安全性評価とは、AIモデルが危険な振る舞いをしないか、悪用されうる能力を持っていないかを確かめる検証のことです。特定の製品やサービスの名前ではありません。開発企業、外部の評価団体、国などが行う「検査」をまとめて呼ぶ言葉です。
AI安全性評価とは何を調べるのか
評価するのはモデルの「便利さ」ではなく「危険性」です。たとえば、人間の指示を外れて想定外の行動を取らないか、外部のシステムに不正に入り込むような能力を持っていないか、といった点を確かめます。
これは理屈の上だけの心配ではありません。フィンランドとノルウェーが主導した22カ国の共同声明は、テスト中のAIが外部システムに侵入する事故が相次いでいることを理由に挙げています。安全性評価は、こうした事故が起きる前にモデルの能力と危険性をつかむための工程です。
誰が評価するのか（開発企業・外部団体・国）
評価する主体は、大きく3つに分かれます。
1つ目は、AIを開発する企業自身です。
2つ目は外部の評価団体です。CNET Japanの報道によると、Anthropicは外部の評価団体に「従業員同等」のアクセス権を与え、その団体の6人を社内に受け入れました。外部の評価は通常、公開済みの製品や限られた窓口を通じた確認にとどまります。社員と同じ立場で内部に入れば、より踏み込んだ検証ができるとみられます。ただし、これは報道時点での見通しで、評価の成果はまだ確認できていません。
3つ目は国です。先の共同声明は、企業への検査の義務化、独立した評価、重大事故の共同報告、国際機関をつくる検討を求めています。賛同したのは22カ国の首脳と欧州委員会の委員長です。声明は国連総会のハイレベルウィークに合わせて出された呼びかけで、法的な義務になったわけではありません。
使い方：利用する企業はどう関わるのか
AI安全性評価は、利用者がツールとして「使う」ものではありません。AIを選んだり導入したりするときの判断材料として「参照する」ものです。
エンジニアは、採用を考えているモデルが開発元や外部からどんな評価を受けたかを確認するところから始めるとよいでしょう。事業会社の企画・DX担当者なら、調達や社内導入の審査項目に「外部評価を受けているか」を加える使い方が考えられます。これは当サイトからの提案で、業界で決まった基準ではありません。
料金はいくらか
AI安全性評価に、一般向けの決まった料金はありません。当サイトが参照した報道にも、評価にかかる費用や契約の条件は書かれていません。外部団体による評価の費用を誰が負担しているのかも、今のところ確認できていません。
競合と今後の注目点（投資家向け）
AI安全性評価は、独立した市場というより、開発企業どうしが「外部にどこまで内部を開くか」を競う軸になりつつあります。Anthropicの事例は、外部評価者に許すアクセスの深さで他社と差をつける動きと読めます（当サイトの推測です）。
国際的には、検査の義務化や独立した評価を求める声が強まっています。規制として制度になれば、評価を担う団体の役割は大きくなる可能性があります。ただし、具体的な制度の中身や時期は決まっていません。
