大規模言語モデルのOpenAI、オープンソースの脆弱性を修正する新イニシアチブ「Patch the Planet」を開始

OpenAIが、オープンソースコミュニティのセキュリティ強化を支援する新イニシアチブ「Patch the Planet」を発表しました。セキュリティ企業Trail of Bitsと連携し、オープンソースのメンテナーがプロジェクトの安全性を高められるよう支援します。

Trail of Bitsのセキュリティ技術者がメンテナーと直接協力してコードの問題をレビューし、その過程をOpenAIのCodex Securityなどのツールが支援します。OpenAIは、メンテナーに届く前に技術者が検出結果を精査し、パッチやテストの作成を支援し、最初の修正後も改善を続けられる再利用可能なワークフローを構築すると説明しています。限られた時間と資源で増え続ける報告に対応しているメンテナーの負担を、増やすのではなく軽減する狙いです。

オープンソースは商用ソフトウェア産業の基盤ですが、分散的で監視が行き届きにくい構造ゆえに脆弱性が残りやすいという課題があります。AIが既存のバグを自動的に発見し悪用コードを生成できるようになったことへの懸念が高まる中、OpenAIはその構図を逆転させ、AIを使ってオープンソース側の防御を強化しようとしています。これはAnthropicのMythosに対する競争上の一手とも受け止められています。

OpenAIについて
OpenAIは「ChatGPT」を開発する米国のAI企業です。大規模言語モデルや関連ツールを幅広く提供しており、近年はサイバーセキュリティ分野の「Daybreak」プログラムなど、企業向けの取り組みを強化しています。