OpenAI、数学者の独立諮問グループ AGMAI と連携。批判の公開書簡を受け

OpenAI は9月21日（現地時間）、数学者らが設立した独立組織「Advisory Group on Mathematics and Artificial Intelligence」（AGMAI）と連携すると発表した。AI による新たな数学的成果の評価や、その公表の在り方について助言を受ける。同グループは米プリンストン高等研究所（IAS）を拠点とする。

同じ発表のなかで、OpenAI は新たな社内モデルの成果にも触れた。8月28日に学習を始めたこのモデルは、9月に発表した成果に加え、数学のほぼ全分野で100件以上の長年の未解決問題を解決したという。数学界にどう伝え、分野の備えや適応をどう促すかを社内で議論してきたとしている。

この連携には前段がある。9月11日、フィールズ賞受賞者らが名を連ねた公開書簡「A Severe Misalignment of AI in Mathematics」が公開された。書簡は、AI 企業が未解決問題の解決をベンチマークとして追い求めることは、数学という学問とそのコミュニティに有害だと主張している。成果が急いで発表されることで適切な論文化や先行研究の引用がおろそかになり、帰属や剽窃の深刻な問題が生じるとも指摘した。OpenAI はこの書簡に言及し、AI 企業が数学界と丁寧に関わる必要性を示すものだと受け止めたとしている。実際、ナビエ・ストークス方程式の件では、先行研究を進めていた米ニューヨーク大学の数学者が経緯を問題視する声明を出し、OpenAI 側が反論して論争になっている。

仕組みの設計が具体的だ。諮問グループは、新たな成果の意義の評価、公表の調整、数学研究における学術上・職業上の規範について助言し、OpenAI のツールが数学の研究や学習をどう支援できるかも提言する。運営は OpenAI から独立しており、OpenAI が求めていない助言や、同社が数学に与える影響についての意見も表明できる。ただし、社内の数学研究を進めるペースについては助言の対象外だと OpenAI は説明している。つまり、出す速度ではなく出し方に関与する枠組みである。

発足のきっかけは、OpenAI が一部のメンバーに外部諮問委員会の設置を打診したことだった。OpenAI との合意の上で独立組織として立ち上げ、他のメンバーを招いたという。数学に大きな影響を与えうるモデルを持つ AI 企業であれば OpenAI 以外にも助言する用意があるとする一方、どの AI 企業に対しても意思決定の権限は持たず、判断の責任は企業側にあると明記した。設立はフィールズ賞受賞者テレンス・タオ氏のブログへの寄稿という形でも告知されている。初期メンバーは9人で、うち英ケンブリッジ大学のティモシー・ガワーズ教授とマルティン・ハイラー氏の2人はフィールズ賞受賞者だ。