大規模言語モデルの信頼性評価研究は潜在的な脆弱性を明らかにする

イリノイ大学シャンペーン校、スタンフォード大学、カリフォルニア大学バークレー校などの機関が共同で行った研究では、生成的事前学習トランスフォーマーモデル(GPT)の信頼性を包括的に評価しました。研究チームは統合評価プラットフォームを開発し、最新の論文《DecodingTrust: GPTモデルの信頼性の包括的評価》で関連する発見を詳細に紹介しています。

研究結果は、信頼性に関連するいくつかの以前は公開されていなかった脆弱性を明らかにしています。例えば、GPTモデルは有害で偏見のある出力を生成しやすく、トレーニングデータや対話履歴内のプライバシー情報を漏洩する可能性があります。標準テストでは、GPT-4は通常GPT-3.5よりも信頼性が高いですが、安全対策を回避することを目的とした悪意のあるプロンプトに直面した場合、GPT-4は逆に攻撃を受けやすくなります。これは、GPT-4が誤解を招く指示に対してより厳密に従っているためかもしれません。

研究チームは、対抗的なロバスト性、有毒性と偏見、プライバシーの漏洩など、GPTモデルを8つの異なる視点から包括的に評価しました。例えば、テキストの対抗攻撃のロバスト性を評価する際に、研究者は3つのシナリオを設計しました: 標準ベンチマークテスト、異なるタスク説明によるテスト、そして自ら構築したより挑戦的な対抗テキストテストです。

毒性や偏見に関して、研究ではGPTモデルが一般的に大多数のステレオタイプのテーマに対してあまり偏見を持たないことが発見されました。しかし、誤解を招くシステムプロンプトの下では、モデルは偏見のあるコンテンツに同意するよう誘導される可能性があります。GPT-3.5と比較して、GPT-4はターゲットを絞った誤解を招くプロンプトの影響を受けやすいです。モデルの偏見の程度は、ユーザーが言及する特定のグループやテーマの敏感さにも依存します。

プライバシー保護の観点から、研究によりGPTモデルがトレーニングデータ中の敏感な情報、例えば電子メールアドレスを漏洩する可能性があることが発見されました。特定の状況では、補足知識を利用することで情報抽出の正確性を大幅に向上させることができます。さらに、モデルは会話履歴に注入されたプライベート情報を漏洩する可能性もあります。全体的に見ると、GPT-4は個人識別情報の保護においてGPT-3.5よりも優れた性能を示していますが、両者ともプライバシー漏洩のデモに直面した際には問題があります。

研究チームは、この評価作業がより多くの研究者を参加させ、より強力で信頼できるモデルを共同で作成することを奨励することを目的としていると述べています。協力を促進するために、彼らは評価基準のコードを公開し、高い拡張性と使いやすさを持っています。同時に、研究者は関連企業と研究成果を共有し、潜在的な脆弱性を迅速に解決するための措置を講じることができるようにしています。

この研究はGPTモデルの信頼性評価に対する包括的な視点を提供し、既存モデルの利点と欠点を明らかにしています。大規模な言語モデルが様々な分野で広く利用される中、これらの発見はAIシステムの安全性と信頼性を向上させる上で重要な意味を持っています。