TiktokのBold GlamourビューティーフィルターはAI専門家に現実性を懸念させる

Nov 18, 2023

ここ数週間、リアルタイムの特殊効果が TikTok に溢れ、顎を削り、唇をふっくらさせ、スマートフォンを持っている人なら誰でもカーダシアン風のメイクの輪郭を提供できるようになりました。 これは非常に説得力のある美容フィルターとして宣伝されているが、AI研究者らは、この効果はその存在に関する手がかりを残しておらず、アプリの内外で人々を操作する前例のない能力を与え、世界中の政府からの監視を招いていると述べている。

先月のリリース以来、1,600万回以上ダウンロードされているBold Glamourは、スマートフォンを持っている人なら誰でも、自分自身の強化版やアバターをリアルタイムで作成するために使用できる最も説得力のあるエフェクトの1つを提供すると、独立系フィルター作成者は述べています。 、研究者、クリエイティブテクノロジスト。

他の写真フィルターとは異なり、Bold Glamour は動きが多すぎる場合やユーザーの顔の前を手が通過した場合でも動揺しません。 リアルタイムで顔を変更し、付けまつげがなくなることはありません。 ユーザーは、自分が見ているものが信じられないという理由で、頬を引っ張ったり眉毛をひっぱったりしています。

TikTokの広報担当アレクサ・ユセフィアン氏はフィルターの背後にある技術について言及することを拒否したが、ユーザーや研究者らは、このフィルターは人々の肌の色調、知覚される性別、髪の色を読み取り、特定のSoCalに適用するメイクアップの量、リップフィラー、肌の引き締めを決定すると述べている。インフルエンサーの見た目。 そしてAIがそのプロセスを推進している可能性がある。

「フィルターはカイリー・ジェンナーの顔を機械学習アルゴリズムのモデルとして使用し、彼女の顔を私の顔にブレンドしたようです」とソーシャルメディアフィルター作成者のローラ・グイヨン氏はワシントン・ポスト紙に語った。

おそらくその効果は、メイクアップのテクニックを自分自身に教え込んでいるのだと彼女は言う。 「以前の美容フィルターでは、顔メッシュがユーザーの顔にオーバーレイされていたため、手や髪が顔を覆うと効果に不具合が生じていました」とグイヨン氏は語った。 「このフィルターはおそらく機械学習テクノロジーを使用して、これらの特徴を顔にブレンドしています。」

カリフォルニア大学バークレー校のコンピュータサイエンス教授、ハニー・ファリド氏は、このフィルターにはおそらく「生成AI」が使われていると述べた。このAIは、多くの場合ウェブから収集された何千もの写真やテキストサンプルを研究して、新しい画像や単語を作成する技術だという。 （ファリドは2020年から2022年までTikTokコンテンツ諮問委員会のメンバーでした。）

SnapchatとInstagramのフィルターを作成するLuke Hurd氏は、Bold Glamour効果には機械学習が使用されているとツイートした。

「彼らは敵対的生成ネットワークと呼ばれるものを使用しています」と彼は言いました。 「彼らはユーザーの画像を取得し、それを他の画像のデータセットと比較し、カメラフィードの出力上であなたの顔をピクセルごとに再描画します。」

MITオープン・ドキュメンタリー・ラボに常駐するクリエイティブ・テクノロジスト、ハルシー・バーガンド氏は、このフィルターのアクセシビリティこそが、これまでの視覚操作手段との違いであると述べた。

みんなが話題にしている新しい AI テクノロジーを試す方法

「ビデオ内で自分自身、そしてすぐに他人を操作できる能力が（この効果によって）コモディティ化されており、それが本当の飛躍だ」と彼は語った。 「この技術はしばらくの間、研究室、企業、そしてウェブ上のより難解な環境で使われていましたが、今では誰もが無料でそれを実行し、それがどのように機能するかを確認できるようになりました。」

大胆な魅力を備えた動画は、ユーザーが超現実的な効果を適用したことを示すラベルなしでインターネット上に投稿される可能性があり、研究者らは、オンラインで何が現実であるかを信じることがますます困難になると警告しています。

カリフォルニア大学サンディエゴ校のコンピューテーショナル・アートとデザインの教授、メモ・アクテン氏は、「ボールド・グラム効果は、ディープフェイクを作成する技術も近いうちに主流になる可能性があることを示している」と述べた。 「それはテクノロジーが解放されるという意味ではなく、それが解放される可能性があることを示すだけです。」

ディープフェイクとは、人工知能を使用して、人々が実際には起こらなかったことを行うビデオまたはその他のメディアです。

ビッグテックはAIに関して慎重に動いていた。 次にChatGPTが登場しました。

TikTok の Bold Glamour ビデオは、ユーザーの透明性を確保するためにビデオに直接タグを付けて公開されますが、ビデオがアプリの外に移動されると、そのタグは消えます。

同社の広報担当者ユセフィアン氏は、他のアプリにエクスポートされた動画に警告ラベルが貼られることについての懸念には言及しなかった。 「TikTokはTikTok上でのユーザー体験についてのみ語ることができる」と彼女は語った。

TikTokの親会社バイトダンスは、中国資本の同社によるデータ収集が安全保障上の脅威となる可能性があるとの懸念から、長年監視を受けてきた。

最近、米国、カナダなどの政府は、潜在的な監視の懸念を理由に、連邦職員に政府の端末からTikTokを削除するよう義務付けた。 米国の少なくとも 28 の州は、機密データに対する不特定のリスクを理由に、政府の端末でのアプリの使用を禁止しています。 超党派の上院議員グループは火曜日、米国商務省にTikTokや外国に拠点を置く他のアプリを禁止する権限を与える法案を提出した。

ホワイトハウス報道官のカリーヌ・ジャンピエール氏は水曜日、バイデン政権はバイトダンスに関連して国家安全保障に「懸念」を抱いていると述べた。

ウェルズリー女性センターの主任研究員であるリンダ・チャーマラマン氏は、フィルターが引き起こす技術的な懸念とは別に、ボールド・グラマーはユーザー、特に10代やその他の若者の不十分な感情や非現実的な期待を引き起こす可能性があると述べた。

同団体が推し進めている毛穴のないエアブラシによる美の基準は、数千ドル相当の整形手術やメイクアップを必要としない現実世界の標準とはかけ離れている。

「美容フィルターが監督なしで使用され、若者たちに浸透していることは心配だ」とチャーマラマン氏は語った。 「Bold Glam フィルターは非常に現実的であり、それがフィルターであることはあまり明白ではありません。だからこそ、若いユーザー、特に女性の自尊心を傷つける可能性があります。」

人々は、ボールド グラマー効果がいかに「恐ろしいほど良い」かについて衝撃的な反応を投稿しました。 この効果によりモデルのオーディションを受ける必要があるように見えると言う人もいれば、フィルターがあまりにも本物に見えるので違法であるべきだと冗談を言う人もいた。 あるTikTokユーザーは「私はまったく別人に見える」と書いた。

アプリは何年も前から顔を補正したり、見た目をフィルタリングしたりしてきたが、それは「遊び心がある」ように思えたとアクテン氏は語った。 大胆なグラマー効果は「不気味」だと彼女は言う。

「これは、私たちがSF映画で見てきた、何が現実なのかもはや見分けがつかない世界への一歩だ」とアクテン氏は語った。 「その結果、私たちは何を信じるべきか、誰を信じるべきか分からなくなります。」

Heather Kelly と Tony Romm がこのレポートに貢献しました。