OpenAI は、AI が作成した作品を検出する AI ツールである Classifier を、リリース時に判明した問題のために終了しました。それは、そのツールが悪臭を放っていることです。
OpenAIが1月にClassifierをリリースした際、Classifierはユーザー（例えば学生）がChatGPTや他のAIプログラムを使って作品を作成したことを検出できるほどの知能を持つはずでした。OpenAIはClassifierを、例えばエッセイがAIによって作成されたかどうかを教師が識別するための手段として売り込んでいました。
しかし、このツールはテスト時に問題を抱え、有名な作品をAIが著作と判断するなど、問題が続きました。OpenAIは問題を修正するどころか、どうやらツールを閉鎖してしまったようです。分類ツールのページは空白で、OpenAIは分類ツールの当初の発表に次の文を追加しました。
「2023年7月20日をもって、AI分類機能は精度が低いため利用できなくなりました。フィードバックを取り入れ、テキストのより効果的な来歴特定技術を現在研究しており、音声または映像コンテンツがAIによって生成されたかどうかをユーザーが理解できるメカニズムの開発と展開に取り組んでいます。」
OpenAIはClassifierのリリース当時、この分類器はAIが作成したテキストの26%を真に人間が作成したものとして識別し、人間が作成したテキストの9%をAIが作成したものと判定したと発表しました。
以前のテストでは、競合サービスであるHive Moderationが効果的であることが判明しました。このツールは無料のAI検出ツールで、同じ機能を備えていますが、信頼度、つまりテキストサンプルにAIテキストが含まれている可能性を示すパーセンテージを返します。
学生たちは、たとえオリジナルのエッセイを書いても、欠陥のあるAI検出アプリに引っかかってしまうと、オンラインで声高に訴えています。大学や高校の倫理規定では剽窃にほとんど容認されないため、たった一度の誤判定が学生の学業を台無しにする可能性があります。Classifierの廃止は、教育機関がこの問題への対応を見直すきっかけとなる可能性があります。
著者: マーク・ハッハマン、PCWorld シニア編集者
マークは過去10年間、PCWorldに寄稿しており、テクノロジー分野で30年の経験があります。PCWorldだけでも3,500本以上の記事を執筆しており、PCマイクロプロセッサ、周辺機器、Microsoft Windowsなど、幅広いトピックを扱っています。PC Magazine、Byte、eWEEK、Popular Science、Electronic Buyers' Newsなどの出版物にも寄稿しており、Electronic Buyers' Newsでは速報ニュースでジェシー・H・ニール賞を受賞しました。最近、オフィスのスペースが足りなくなったため、数十台のThunderboltドックとUSB-Cハブを寄贈しました。
