2023-04-24

ポルノのディープフェイクが問題に

Deepfakeサービスを提供する電報グループチャット。写真：vnexpress/Khuong nha

22歳のハンは、彼女の顔を重ね合わせた裸の体がTwitterやTelegramのグループのようなソーシャルメディアに広がっているとき、彼女は怖がっていたと言います。

ブロガーは次のように述べています。

友人がオンラインでディープフェイクの画像やビデオについて尋ね続けた後、彼女はソーシャルメディアアカウントを閉鎖しなければなりませんでした。

彼女は、写真とビデオが電報グループチャットから来たことを発見しました。

「グループチャットのメンバーが私の写真をVND25,000だけ（$ 1.06）だけデジタルで削除できるサービスに私の写真を送りました。グループには2,000人以上のメンバーがいます。他の場所でダウンロードして共有しました。」

唯一の犠牲者ではなく、実際には毎日何百もの同様の写真が作成されています。ほんの数千ドンの場合、誰でも誰の写真を送って、同様のディープフェイクを作成できます。

ディープフェイクは、AIテクノロジーを利用して、たとえば顔を変更して他の人に似ているなど、画像やビデオをデジタル的に変更します。このようなテクニックは、有名人を巻き込むことを誤って主張するポルノビデオを作成するために使用されてきました。

AIスタートアップのハイテクディレクターであるNguyen Anh Tuanは、AISがより良くなり、より人気を博しているため、DeepFakesは問題になっていると言います。

「ディープフェイク自体は新しいものではありませんが、テクノロジーの進歩により、アプリは迅速かつ非常に高いレベルのリアリズムでそれらに対処できます。」

AIを搭載したテクノロジーは、顔を交換するだけではありません。また、AIがヌード体に関する大量のデータから学んだ後、人を「服を脱ぐ」こともできます、と彼は説明します。

そのような写真をダウンロードするためにアプリを使用する人が多いほど、AISが自分自身を改善するために学習できるデータが増えています。

このようなデジタル脱衣サービスのプロバイダーであるSi Ducは、月にわずか10米ドルでディープフェイクアプリにサインアップし、TwitterやTelegramなどのソーシャルメディアプラットフォームで顧客を見つけました。

Duc氏は次のように述べています。「ベトナム人をサポートするアプリの中には、画像を作成するのは簡単です。透明な顔と体で3〜4枚の写真をアップロードするだけで、AIは数分でディープフェイクのポルノ写真を作成できます。」

写真の作成には約20,000枚の費用がかかり、1分間のビデオであるVND250,000-500,000がかかります。

トゥアンは次のように述べています。「誰でもポルノのディープフェイクの犠牲者になることができます。」

セキュリティの専門家は、そのような画像は、時間の経過とともに忘れられる可能性が高いと思われますが、インターネット上に永遠に存在し、被害者は常に自分自身を説明する機会を得るとは限りません。

「冗談は1〜2週間で吹き飛ばされる可能性がありますが、数年後、私の愛する人はまだインターネットで私の写真を見つけることができます。仕事に応募するときにブラックリストに登録することもできます。」

弁護士であり、HCMC弁護士会のメンバーであるハハイは、他の人の写真やビデオを変更し、偽の画像や情報を複数の犯罪で告発することができると言います。

トゥアンは、ディープフェイクを防ぐ1つの方法は、ソーシャルメディアにポートレートを公に投稿することを控えることだと言います。

Deepfeckedの写真をオンラインで見つけた場合、人々は削除のためにプラットフォームに連絡し、必要に応じて当局に送る証拠を収集する必要があると彼は付け加えます。