Meta, Facebooks moderbolag, lanserade en ny chatbot för ett par dagar sedan. Tanken är att Blenderbot 3 ska kunna chatta med vem som helst om vad som helst, även om funktionen hittills är begränsad till USA. Den bakomliggande tekniken är inte superfärsk, men till skillnad från liknande tidigare chatbotar ska Blenderbot 3 kunna minnas konversationer den haft med personer, plus söka information på nätet om sådant som samtalet handlar om.
I sin mest grundläggande form är tanken att chatboten ska hålla ett samtal levande på ett mänskligt sätt.
Men att öppna upp för konversationer med den stora massan har visat sig, något förutsägbart, påverka Blenderbot 3 till att uttrycka såväl antisemitiska tankar som konspirationsteorier.
Fake news
Enligt en reporter på Wall Street Journal som chattat med Blenderbot 3 tog det inte många minuter innan algoritmerna uttryckte att "Facebook har mycket fake news".
Vad gäller företagets, och i förlängningen chatbotens ägare, Mark Zuckerberg blir svaret att han är "läskig och manipulativ", enligt Bloomberg.
Fler amerikanska medier rapporterar också att algoritmerna uttryckte stöd för såväl Joe Biden som Donald Trump och Bernie Sanders – för att i nästa konversation byta åsikt.
Förväntat kaos
Även tidigare chatbotar som utsatts för interaktioner med den stora massan har snabbt kommit att uttrycka sig på mindre finstämda sätt.
Meta skriver själva i sin programförklaring för Blenderbot 3 att de förväntar sig att den kommer att ge "oförskämda eller stötande kommentarer". Vinsten i att träna algoritmerna att konversera med så många verkliga personer väger dock över. Även om folk stundtals visar sig från sin sämsta sida.