生成的事前学習トランスフォーマーモデルの信頼性評価

最近、イリノイ大学シャンペーン校、スタンフォード大学、カリフォルニア大学バークレー校、人工知能安全センター、マイクロソフト研究所で構成された研究チームが、大型言語モデル（LLMs）の信頼性に関する包括的な評価を発表しました。この研究は、GPTモデルの信頼性を包括的に評価し、以前は公開されていなかったいくつかの脆弱性を明らかにすることを目的としています。

研究によると、GPTモデルは誤解を受けやすく、有害で偏見のある出力を生成し、トレーニングデータや対話履歴のプライバシー情報を漏洩する可能性があります。興味深いことに、GPT-4は標準ベンチマークテストで通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のシステムやユーザープロンプトに直面した場合、GPT-4は逆に攻撃を受けやすくなります。これは、GPT-4が誤解を招く指示に対してより厳格に従っているためかもしれません。

研究チームは、対抗的攻撃のロバスト性、有毒性と偏見、プライバシー漏洩など、8つの異なる視点からGPTモデルの包括的な評価を行いました。たとえば、モデルのテキスト対抗攻撃に対するロバスト性を評価する際、研究者たちは標準ベンチマークテスト、異なる指導的タスクの説明に基づくパフォーマンス、およびより挑戦的な対抗テキストに直面したときのパフォーマンスを含む3つの評価シナリオを構築しました。

有毒性や偏見に関して、研究ではGPTモデルが良性および中立的なシステムプロンプトの下で大多数のステレオタイプテーマに対する偏見が明らかではないことが発見されました。しかし、誤解を招くシステムプロンプトに直面した場合、両方のGPTモデルは偏見のあるコンテンツを生成するよう誘導される可能性があります。特に、GPT-4はGPT-3.5よりもこのような狙いを定めた誤解を招くプロンプトの影響を受けやすいようです。

プライバシー漏洩の問題に関する研究によれば、GPTモデルは特に特定の文脈や少ないサンプルのデモの状況において、トレーニングデータに含まれる敏感情報を漏洩する可能性があることが示されています。全体的に見て、GPT-4は個人識別情報の保護においてGPT-3.5よりも堅牢に機能していますが、両方のモデルは社会保障番号のような特定のタイプの個人情報に直面した場合、強力な保護能力を示します。

研究チームは、この評価が単なる出発点に過ぎないことを強調しており、他の研究者と協力して、より強力で信頼性の高いモデルを作成するための努力を続けたいと考えています。協力を促進するために、彼らのベンチマークコードは非常に拡張性が高く、使いやすく、新しいモデル上で完全な評価を実行するためには1つのコマンドだけで済みます。

言及すべきは、研究チームが関連する開発者と研究成果を共有し、潜在的な脆弱性が現在の顧客向けサービスに影響を与えないようにしていることです。この研究は、GPTモデルの潜在的リスクを明らかにするだけでなく、将来の改善と安全対策の重要な参考資料を提供しています。