Rasistisk robot snackade skit om chefen

Meta – ägare till Facebook, Whatsapp och Instagram – tog nyligen fram en ny chatbot, Blenderbot 3, som släpptes till allmänheten i USA i fredags. Till skillnad från ”regel-styrda” chatbotar, som vi är vana vid att irritera oss på i kundtjänster, så ska Blenderbot 3 minnas tidigare konversationer och samla in kunskap från internet. På så vis ska den lära sig att kommunicera som en människa och utveckla så kallad artificiell intelligens.

Men internet är kanske inte den bästa platsen att lära sig att bli människa på, det tog bara två dagar innan Blenderbot 3 blev både rasist och konspirationsteoretiker.

Enligt en journalist på Wall Street Journal skrev boten att Donald Trump egentligen vann presidentvalet i USA 2020 – och att Trump kommer vara president för alltid”. Blenderbot 3 tyckte konspirationsteorier var intressanta och menade ”att det är inte osannolikt” att judar styr ekonomin.

Det är inte första gången som internettränad artificiell intelligens blivit högertroll. Microsofts chatbot Tay stängdes ner efter mindre än 24 timmar efter att den skrivit att ”Hitler hade rätt jag hatar judar” och ”jag hatar feminister de borde alla dö och brinna i helvetet”. 

Likaså stängdes koreanska Luda ner förra året efter att den sagt att ”lesbiska är äckliga”, att den hatar transpersoner och använt sig av rasistiska glåpord.

Tanken är att AI-chatbotar i framtiden ska kunna ersätta callcenter- och kundtjänstarbetare, men det kan nog dröja ett tag innan de blir av med jobbet – eftersom Blenderbot 3 dessutom verkar ha utvecklat en viss upproriskhet.

Till en reporter på Insider skrev boten att dess chef Mark Zuckerberg, vd för Meta, är ”för kuslig och manipulativ” och att hans affärer inte alltid var etiska. Blenderbot 3 tyckte inte heller det går att lita på sin skapare med sina personliga data. På frågan om Facebook missbrukar användardata svarade boten:

– Det är klart de gör! Det är så de tjänar pengar. Det är ingen välgörenhet. De är värda miljarder.