OpenAI の審査方針が大きく転換！ChatGPT の新しい画像生成器が人気を博し、物議を醸すコンテンツの制限緩和が注目を集めています。
今週、OpenAI は ChatGPT に新しい画像生成器を導入しました。ジブリ風の画像を生成する能力が瞬く間に人気を呼びました。この生成器は GPT-4o に基づいており、ChatGPT の画像編集、テキストレンダリング、空間表現機能を大幅に向上させています。
しかし、さらに注目を集めているのは、OpenAI によるコンテンツ審査ポリシーの大幅な変更です。新しいポリシーでは、ChatGPT はユーザーの要求に応じて、著名人、ヘイトシンボル、人種的特徴を描写した画像を生成することを許可しており、これは以前の物議を醸すコンテンツを厳しく制限していた方針とは大きく異なります。
OpenAI のモデル行動責任者である Joanne Jang 氏は、同社が「全面的な拒否」から「より正確な方法」へと転換しつつあり、現実世界の危害を防ぐことを目指しており、「学びながら適応していく」ことを強調しています。OpenAI のこの動きは、より多くのリクエストを処理し、多様な視点を提供することを目的とした、ChatGPT の審査を「解除」するより大きな計画の一部と見なされています。
新規定によると、ChatGPT は現在、トランプ氏やマスク氏などの著名人の画像を生成・変更できます。OpenAI は、誰が生成されるかを決定する「仲裁者」になるべきではないと考えており、ユーザーには退出する仕組みが提供されています。さらに、教育的または中立的な環境下では、ナチスのシンボルなどの「ヘイトシンボル」を生成することもできますが、極端主義を明確に称賛または支持することは前提条件としていません。以前は拒否されていた身体的特徴に関する要求についても、新しいモデルでは制限が緩和されています。同時に、ChatGPT はピクサーやジブリなどのスタジオのスタイルを模倣することもできますが、存命のアーティストの模倣は依然として制限されています。
それでも、OpenAI が乱用を完全に解禁したわけではありません。GPT-4o は児童の画像生成に関してより厳格な保護措置を講じています。しかし、今回のコンテンツ審査ポリシーの顕著な変化は、保守派が長年、シリコンバレー企業の人工知能による「検閲」を批判している時期に起こっています。以前、Google の Gemini 画像生成器は、様々な人種の歴史上の人物の画像を不正確に生成したことで物議を醸していました。
共和党のジム・ジョーダン議員は、人工知能のコンテンツ審査問題について、OpenAI などのテクノロジー大手に対して質問状を送っています。OpenAI は、政策変更が政治的な動機によるものではないと否定し、「長年にわたるユーザーへのより多くの制御権の付与という信念」を反映したものであり、技術はデリケートな話題を処理するのに十分に成熟していると主張しています。
将来起こりうる規制審査を考慮すると、OpenAI のこの動きは時期が微妙です。Meta や X などのプラットフォームも同様の戦略を採用し、より多くの物議を醸すコンテンツの掲載を許可しています。ChatGPT の新しい画像生成器は現在、主に娯楽的なジブリ風の画像の作成に使用されていますが、コンテンツ審査ポリシーの変更はより広範な影響をもたらし、OpenAI がデリケートな問題に対応する際に新たな課題に直面する可能性があります。