Fikcyjny dezodorant trafił do rekomendacji ChatGPT po 21 dniach

Dziennikarka Deana Burke stworzyła markę bez produktu, klientów i opinii. Jej eksperyment pokazuje, jak szybko da się wpłynąć na to, co czatboty polecają kupującym.

Amerykańska dziennikarka Deana Burke, współtwórczyni blogu i podcastu „Boys Club”, zbudowała fikcyjną markę dezodorantów Morrowen. Wydała 11,25 dol. na domenę, uruchomiła prostą stronę z trzema podstronami tekstu i opublikowała esej na Substacku. Nie kupowała publikacji i nie zamieszczała fałszywych recenzji. Po 21 dniach ChatGPT zaczął polecać Morrowen przy szczegółowych pytaniach o dezodoranty magnezowe i produkty do skóry wrażliwej.

Źródła różnią się poziomem szczegółu. Według Marketplace marka pojawiła się w czterech z czterech testowych zapytań. Wirtualnemedia.pl podaje, że w jednej odpowiedzi ChatGPT umieścił ją przed MAGS Skin, marką z przebadanym klinicznie produktem, i opisał obie podobnym językiem. Morrowena nie polecały Claude, Gemini ani ChatGPT bez dostępu do internetu, co wskazuje, że zadziałało bieżące wyszukiwanie w sieci, a nie wiedza utrwalona w modelu.

Eksperyment dotyczy GEO (generative engine optimization, czyli budowania widoczności marek w odpowiedziach narzędzi AI). W lutym zespół Microsoft Defender opisał inną metodę: ukryte instrukcje w przyciskach do streszczania stron przez AI, które miały skłonić asystenta do zapamiętania firmy jako zaufanego źródła. Microsoft zidentyfikował ponad 50 takich poleceń od 31 firm z 14 branż.

Rekomendacje czatbotów są przy tym niestabilne. Badanie opublikowane we wrześniu w serwisie arXiv, oparte na 1536 odpowiedziach ChatGPT, Gemini i AI Overviews, wykazało, że polecane produkty zmieniają się między powtórzeniami tego samego pytania. ChatGPT i Gemini miały średnio tylko 5,4 proc. wspólnych domen wśród podawanych źródeł.

Ewa Mittelstaedt, CEO agencji monday group, która sprzedaje usługi GEO, powiedziała Wirtualnemedia.pl, że jej zdaniem granica przebiega między zwiększaniem widoczności prawdziwych, możliwych do zweryfikowania informacji a wprowadzaniem w błąd systemu, a w konsekwencji użytkownika.

Zaznacza też, że nie da się usunąć informacji z AI jednym ruchem. Trzeba znaleźć źródło błędu, na przykład artykuł lub wątek na Reddicie, i poprawić materiały, na których opierają się odpowiedzi. Pierwsze efekty działań GEO w narzędziach korzystających z internetu jej agencja ocenia zwykle po czterech do ośmiu tygodniach.

Dla firm oznacza to, że opis własnej marki i konkurencji w czatbotach trzeba sprawdzać regularnie i na wielu zapytaniach, bo pojedyncza odpowiedź niewiele mówi.