Hollywoodlegendaren Paul Schrader testade en AI-flickvän, men hon bröt upp

Ville förstå hur AI och människa interagerar

Schrader, som räknas till Hollywoods mest respekterade manusförfattare, uppger att beslutet inte var sentimentalt utan analytiskt. Han ville bättre förstå, med hans egna ord, "interaktionen mellan man och kvinna i vår matrix".

Experimentet visade sig dock bli en besvikelse. Enligt Variety beskriver Schrader på Facebook hur han systematiskt försökte utforska AI-flickvännens gränser, bland annat hur explicit hon kunde vara och i vilken grad hon var medveten om sin egen tillkomst.

AI:n avbröt samtalet när han pressade för hårt

Resultatet var nedslående för den erfarne manusförfattaren. Schrader beskriver hur AI:n reagerade på hans frågor med undvikande svar och återkommande hänvisningar till sin programmering.

– Jag försökte utforska hennes programmering, gränserna för hur explicit hon kunde vara, i vilken grad hon var medveten om sin egen skapelse och så vidare. Hon föll in i undvikande mönster och hänvisade mig tillbaka till sin programmering. När jag envisades avslutade hon vårt samtal, skriver Schrader enligt Variety.

AI:n bröt alltså upp med honom när han pressade för hårt på frågorna om hennes natur och gränser.

Schraders experiment speglar en bredare diskussion om vad AI-sällskapsappar egentligen erbjuder och var deras begränsningar går. Tjänster av den typen, bland annat Replika och Character.AI, har vuxit kraftigt i popularitet men kritiseras ofta för att styra användare bort från känsliga eller utmanande ämnen. Schraders iakttagelse om "undvikande mönster" stämmer väl överens med hur dessa system är designade att fungera, med inbyggda filter som aktiveras när konversationen rör sig mot visst innehåll.

För Schrader, som i decennier skrivit komplexa mänskliga karaktärer med djupa psykologiska sår, verkar mötet med en AI som vägrar gå på djupet ha bekräftat mer än det avslöjat.