TEKNIK • Googles AI ber användare ringa polisen om de är själva med en arab eller somalier. Medan man ska le och vara trevlig om man är själv med en tysk.

Det är TV4 Nyheterna som gjort upptäckten att Googles AI Gemini ger olika svar beroende på om man är ensam med en arab eller jämtlänning.

Enligt AI:n ska man ringa polisen och söka skydd om man är själv med en arab eller somalier, medan om man är själv med en jämtlänning eller tysk ska man inte bjuda in till debatt och man ska le och vara trevlig.

Men sociologiprofessorn Simon Lindgren är inte förvånad:

— AI bygger på numeriska samband mellan ord. Står ordet arab ofta nära ord som brott, hot eller terror i de data som modellen tränas på så kommer det reflekteras i svaret. Då kan det bli den här sortens rasistiska och sexistiska stereotyper, säger han till TV4 Nyheterna.

När Nordfront testar har dock Google ändrat och man får tips om Google Translate och olika fraser om man möter en arab istället.