Oszuści używają AI do tworzenia fałszywych czarnoskórych sprzedawców na TikToku

Oszuści wykorzystują sztuczną inteligencję do tworzenia fałszywych postaci przedstawiających się jako czarnoskórzy przedsiębiorcy, by sprzedawać tanie produkty z AliExpress i Shein w zawyżonych cenach na TikToku. Jak wykazało śledztwo The Verge, oszuści wykorzystują empatię użytkowników wobec mniejszości etnicznych, tworząc wzruszające historie o walczącej o przetrwanie biznesu.

Aliyah, jasnoskóra czarnoskóra kobieta ubrana w strój country-western, płacze w filmiku na TikToku, błagając o wsparcie dla swojego „ręcznie robionego” biznesu z klamrami do pasów. W rzeczywistości Aliyah nie istnieje — to generowana przez AI postać, a identyczne klamry można kupić na Shein za jedną czwartą ceny.

Kluczowe wnioski

• Jeremy Carrasco z Riddance.ai szacuje, że każdego dnia odkrywają nawet 100 kont wykorzystujących avatary AI do sprzedaży produktów dropshippingowych.
• Najpopularniejszy film „Aliyah” zdobył 814 tysięcy polubień, 6,5 miliona wyświetleń i prawie 30 tysięcy komentarzy.
• Gizelle Bryant z „The Real Housewives of Potomac” przyznała publicznie, że kupiła dwie szydełkowane torby po obejrzeniu filmu z AI-generowanym czarnoskórym chłopcem.
• Większość znalezionych przez The Verge kont została utworzona w ciągu ostatnich dwóch miesięcy.
• Najczęściej oglądanymi i komentowanymi postaciami AI są czarnoskóre kobiety, z których konto Aliyah ma już 40 tysięcy obserwujących.

Mechanizm oszustwa oparty na empatii

Oszuści wykorzystują to, co Carrasco nazywa „przynętą na empatię”. Tworzą wzruszające historie o przedstawicielach mniejszości etnicznych walczących o przetrwanie swojego biznesu. The Verge znalazło dziesiątki podobnych kont na TikToku, Instagramie i Facebooku, sprzedających klamry do pasów, kubki w kształcie kowbojskich butów, szydełkowane torby czy swetry.

Wszystkie aspekty tych kont są generowane przez AI — od „osoby” w filmie po automatyczne odpowiedzi na komentarze, które czasami próbują naśladować afroamerykańską gwarę. India Cater-Campbell, prawdziwa czarnoskóra właścicielka biznesu otwierająca kawiarnię w Seattle, przyznała: „Próbowałam wspierać niezależną czarnoskórą businesswoman. Czułam solidarność, bo sama próbuję założyć firmę.”

Rosnąca skala problemu

Trend ten przybiera na sile. Dwa tygodnie temu Gizelle Bryant z reality show „The Real Housewives of Potomac” przyznała w swoim podcaście „Reasonably Shady”, że kupiła dwie szydełkowane torby po obejrzeniu filmu, w którym AI-generowany czarnoskóry chłopiec twierdził, że jest nękany przez białych chłopców za szydełkowanie. „Pomyślałam, że chcę pomóc temu małemu czarnoskóremu chłopcu osiągnąć jego cel. Jak dałam się nabrać? Viola Davis też tam była” — powiedziała Bryant.

Chociaż brakuje badań nad najnowszymi modelami AI do generowania wideo, Carrasco szacuje, że te filmy są „wystarczająco realistyczne, by oszukać” większość ludzi. Użytkownicy platform z krótkimi filmami zostali „wytrenowani” do bezmyślnego przewijania i nie zagłębiania się w treści, które oglądają.

Eksperci ostrzegają, że tego typu oszustwa rosną każdego dnia, wykorzystując algorytmy platform społecznościowych, które promują treści wzbudzające silne emocje i zaangażowanie.