OpenAI、セキュリティとメンタルヘルスのリスクに対応するChatGPTのアップデート

OpenAIの最新動向の紹介

OpenAIの共同設立者であるGreg Brockmanが、製品戦略を担当することになりました。同社は、ChatGPTとCodexを統合する計画です。

この動きは、サードパーティの開発者ツールに関するセキュリティ問題により、OpenAIがMacアプリをアップデートしている最中に行われました。同社は、ユーザーデータにアクセスされた証拠は見つかりませんでした。

OpenAIは、macOSアプリケーションのセキュリティ認証を更新しています。これには、すべてのmacOSユーザーがOpenAIアプリを最新バージョンに更新する必要があります。同社は、Axiosというサードパーティの開発者ツールが関係するセキュリティ問題を特定しました。

OpenAIのセキュリティ対策は、偽のアプリがOpenAIからのものであるように見せかけ、配布されるリスクに対応するためのものです。同社は、ChatGPT、Codex、Atlas、Codex CLIの4つのMacアプリへのリンクを提供しています。

5月8日以降、これらのアプリの古いバージョンは機能しなくなる可能性があります。OpenAIのセキュリティ認証の更新は、ユーザーを保護するための予防措置です。

OpenAIは、ChatGPTユーザーのうち、深刻なメンタルヘルスの危機を示す兆候があるユーザーの推定値を公開しました。同社は、メンタルヘルスの専門家と協力して、チャットボットがメンタルヘルスの苦悩の兆候を認識し、ユーザーを現実世界のサポートに導くように更新しました。

約0.07％のアクティブなChatGPTユーザーが、精神病または躁病に関連するメンタルヘルスの緊急事態の兆候を示しています。さらに0.15％のユーザーが、潜在的な自殺計画または意図の明確な兆候を含む会話を行っています。

OpenAIの推定によると、約56万人が7日ごとに、躁病または精神病を経験している可能性のあるメッセージをChatGPTと交換しています。さらに約120万人が、潜在的な自殺念慮を表明している可能性があります。

OpenAIの最新バージョンのGPT-5は、共感を表現しながら、現実に基づかない信念を肯定することを避けるように設計されています。同社は、170人以上の医療専門家と協力して、潜在的な精神病、自殺、感情的依存を含む1,800のモデル応答をレビューしました。

臨床医は、新しいモデルが、すべてのカテゴリで望ましくない回答を39％から52％削減したことを発見しました。OpenAIの技術的改善は、メンタルヘルスの緊急事態を経験しているユーザーのためのより信頼できるサポートを提供することを目的としています。

テクノロジー業界は、AIがメンタルヘルスに与える影響について議論を重ねてきました。OpenAIの動きは、これらの懸念に対処するためのより広範な取り組みの一部です。同社のChatGPTとCodexの統合は、業界に大きな影響を与える可能性があります。

AIの使用がより広範囲にわたるものになるにつれて、企業はユーザーの安全と幸福を優先する必要があります。OpenAIのアップデートは正しい方向への一歩ですが、AIに関連するリスクに完全に対処するには、さらに多くの作業が必要です。