Naukowcy z Uniwersytet Macquarie w Sydney tworzą system chatbota do pracy „garnek miodu” i zwabić oszustów do 40-minutowych rozmów, które nie mają sensu. Celem jest zakłócenie modelu biznesowego oszustów i znacznie utrudnienie im zarabiania pieniędzy. Pomysł pochodzi od nauczyciela Dali Kaafar z Macquarie University, który otrzymał spam i trzymał oszusta na linii przez 40 minut. Następnie zaczął zastanawiać się, w jaki sposób można zautomatyzować cały proces i wykorzystać przetwarzanie języka naturalnego do opracowania komputerowego chatbota, który mógłby prowadzić wiarygodną rozmowę z oszustem.

Wynik to Apate, chatbot nazwany na cześć greckiej bogini oszustwa. Zasadniczo wykorzystuje technologię w stylu ChatGPT i łączy ją z klonowaniem głosu, aby stworzyć fikcyjną osobę zaprojektowaną do prowadzenia długich i przekonujących rozmów z oszustem. Zespół Kaafara przeszkolił chatbota w zakresie transkrypcji prawdziwych oszukańczych rozmów, w tym rozmów telefonicznych, e-maili i postów w mediach społecznościowych, aby mógł generować reakcje podobne do ludzkich.

Celem jest, aby bot był wystarczająco inteligentny, aby nakłonić oszusta do 40-minutowej rozmowy. Obecnie Apate trwa średnio tylko 5 minut. Jednak Kaafar zauważa: „Odkryliśmy, że chatboty dość dobrze reagują na złożone sytuacje, których nie spodziewaliśmy się rozwiązać, na przykład gdy oszuści proszą o informacje, dla których nie szkoliliśmy chatbotów, ale dostosowują się i oferują rozwiązania. bardzo wiarygodne odpowiedzi”.

Rozwój Apate następuje również w czasie, gdy oszuści wykorzystują już technologie sztucznej inteligencji, takie jak klonowanie głosu i deepfake, do wspierania własnych schematów. Tak więc w pewnym sensie Kaafar bada, czy te same technologie mogłyby zostać użyte do ich zwalczania. Zespół prowadzi już rozmowy na temat Apaty z kilkoma dostawcami usług telekomunikacyjnych.

Źródło: pcmag.com.

Zobacz galerię