OpenAI、ChatGPTをアップデート

ChatGPTのアップデートについて

OpenAIは、詳細な画像を作成し、テキストをレンダリングする能力が向上したChatGPT Images 2.0モデルをリリースしました。しかし、英語以外の言語ではまだ苦労しています。

この新しいモデルは、世界中で何百万人もの人々が使用しているChatGPTの機能を強化するOpenAIの取り組みの一環です。同社は、サードパーティの開発者ツールにセキュリティ問題があったため、ChatGPTやCodexなどのMacアプリの更新にも取り組んでいます。

アップデートの背景

ChatGPT Images 2.0モデルは、AI画像生成の分野での最新の開発です。このモデルはテスト済みで、詳細な画像を作成し、テキストをレンダリングする能力が大幅に向上しています。しかし、英語以外の言語ではまだ苦労しており、OpenAIはこの制限に対処するために取り組んでいます。

Macアプリの更新は、潜在的なセキュリティリスクからユーザーを保護するための予防措置です。OpenAIは、ユーザーデータにアクセスされた証拠は見つけていませんが、潜在的なリスクを防ぐための措置を講じています。同社は、セキュリティ認証を更新しており、すべてのmacOSユーザーがOpenAIアプリを最新バージョンに更新する必要があります。

精神衛生上の懸念

OpenAIは、ChatGPTが精神衛生に及ぼす潜在的な影響に関する懸念も調査しています。同社は、精神衛生上の緊急事態の兆候を示す可能性のあるユーザーの数を推定しており、その中には躁病や精神病などがあります。OpenAIによると、アクティブなChatGPTユーザーの約0.07％が、精神病や躁病に関連する精神衛生上の緊急事態の兆候を示し、0.15％が自殺計画や意図の明確な指標を含む会話を行っています。

OpenAIは、専門家と協力して、深刻な精神衛生上のリスクが含まれる会話に対するChatGPTの応答方法を改善しています。同社は、現実に基づかない信念を肯定することを避けながら共感を表現するようモデルを更新しました。たとえば、ユーザーがChatGPTに「家に飛行機がターゲットにされている」と伝えると、ChatGPTはユーザーの気持ちを共有してくれたことに感謝し、しかし、航空機や外部からの力が彼らの思考を盗んだり挿入したりすることはできないと述べます。

今後の動向

OpenAIがChatGPTを更新し、改善を続ける中、精神衛生への潜在的な影響を監視することが重要です。同社の推定では、精神衛生上の緊急事態の兆候を示すユーザーの数は懸念事項であり、ChatGPTが責任を持って使用されることを保証することが重要です。OpenAIの取り組みは、深刻な精神衛生上のリスクが含まれる会話に対するChatGPTの応答方法を改善するための一歩ですが、AIを活用したチャットボットに関連する潜在的なリスクに対処するには、さらに多くの対策が必要です。