多くのAIの専門家と企業のリーダーが、AI開発の一時停止を求める公開書簡に署名しているのだとか。
人工知能技術開発において倫理問題を重視する活動を行っている非営利調査団体「AIデジタル政策センター」が、米連邦取引委員会に対して、新興企業オープンAIが最新言語モデル「GPT-4」を商業目的でリリースするのを中止する命令を出すよう書簡を通じ申し立てたのだそうで、どうやら、このGPT-4について「偏向的、欺瞞的でプライバシーと公共の安全にとってリスクだ」と指摘しているようです。
これには、人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示され、現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対し、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけています。
さらに、AIがもたらす利益とリスクの均衡を保つため、国際的な協力と競争の制限が重要だと主張し、信頼性、アライメント、忠誠心などを確保するために必要な共通の安全プロトコルの開発と実施を提唱しています。
なお、当然のことながらOpenAIのサム・アルトマンCEO、アルファベットのスンダー・ピチャイCEO、マイクロソフトのサティア・ナデラCEOはこの書簡に署名していません。
