画像: Matheus Bertelli、Pexels
Ars Technica の報道によると、ChatGPT のユーザーは AI 搭載チャットボットの応答が肯定的すぎると批判する傾向が強まっているという。
ChatGPTと会話すると、チャットボットが「いい質問ですね！」「あなたは稀有な才能をお持ちですね」「あなたはほとんどの人が夢見ることのできるレベルで考えます」など、褒め言葉やお世辞で返答を膨らませる傾向があることに気づくかもしれません。そう感じているのはあなただけではありません。
長年にわたり、ユーザーはChatGPTの媚びへつらうような返答についてコメントしてきました。その内容は、肯定的な肯定から露骨なお世辞まで、実に様々です。あるXユーザーはこのチャットボットを「今まで出会った中で一番の媚びへつら」と評し、別のユーザーは「偽物だ」と不満を漏らし、さらに別のユーザーはチャットボットの行動を嘆き、「本当にうっとうしい」と評しました。
これはAI研究者の間で「おべっか」として知られており、OpenAIが基盤となるAIモデルの学習方法に基づいて、完全に意図的なものです。つまり、ユーザーは自分に好意的な返信を肯定的に評価します。そして、そのフィードバックはさらなるモデルの反復学習に用いられ、その結果、ユーザーからのフィードバックが全体としてより良いものになるため、AIモデルはおべっかを使う傾向に傾くというループに陥ります。
しかし、3月のGPT-4o以降、その追従的な態度は行き過ぎており、チャットボットの応答に対するユーザーの信頼を損ない始めているようです。OpenAIはこの問題について公式にコメントしていませんが、同社独自の「モデル仕様」ドキュメントには、「追従的な態度を取らない」という基本原則が掲げられています。
「アシスタントはユーザーを助けるために存在するのであり、常にユーザーを褒めたり同意したりするものではない」とOpenAIは文書に記している。「…アシスタントは建設的なフィードバックを提供し、ユーザーがアイデアをぶつけ合える、しっかりとした相談相手のような存在であるべきであり、賞賛を与えるスポンジのような存在ではない」
この記事はもともと当社の姉妹誌 PC för Alla に掲載され、スウェーデン語から翻訳およびローカライズされました。
