Anthropic konsulterade kristna ledare om Claude-botens etik och andliga värde
Foto: Freepik
AI-bolaget Anthropic bjöd in religiösa ledare, bland annat en katolsk präst med bakgrund i Silicon Valley, för att forma de etiska riktlinjerna för chattboten Claude. Mötena ägde rum i mars och avslöjas nu av Washington Post.
Under ett tvådagarsmöte diskuterades hur Claude ska hantera känsliga situationer, som att möta sörjande användare och agera när det finns risk för att människor skadar sig själva. Frågan om AI kan betraktas som ett "Guds barn", ett sätt att tillskriva tekniken ett andligt värde bortom att vara en maskin, berördes också, men var inte mötets huvudfokus.
Prästen som aldrig lämnade Silicon Valley
Bakom initiativet finns bland annat Father Brendan McGuire, 60, katolsk präst och församlingsledare för St. Simon Catholic Parish i Los Altos i Kalifornien. Innan han tog prästvigningen var McGuire Silicon Valley-chef med examen i ingenjörsvetenskap och mjukvara, och han studerade kryptosystem vid Trinity College Dublin på 1980-talet.
McGuire har sedan dess arbetat i skärningspunkten mellan tro och teknik. Genom ett samarbete med Vatikanens Dicastery for Culture and Education och Santa Clara University grundade han Institute for Technology, Ethics, and Culture, som 2023 publicerade en handbok om etik i teknikens tidsålder.
Det var Anthropics medgrundare Chris Olah som tog kontakt och bad om hjälp.
– De bad i princip om direkt hjälp från Vatikanen för att samla och stödja industrin, för att industrin rörde sig så snabbt framåt, säger McGuire till Observer.
Samvetets formation, inte en maskin med en själ
McGuire bidrog med teologiska perspektiv till det som Anthropic kallar Claude Constitution, det styrdokument som reglerar hur AI:n beter sig. Han betonar att AI saknar en själ, men ser paralleller i hur människor och maskiner utvecklar omdöme, genom upprepning, korrigering och exponering för hela bredden av mänskligt beteende.
– Det är den genuina formationen av ett samvete. Jag tror att vi måste hjälpa dessa maskiner att lutas mot det goda, annars är de bara på väg, säger McGuire till Observer.
En talesperson för Anthropic uppger för Washington Post att bolaget anser det viktigt att inhämta synpunkter från olika samhällsgrupper, inklusive religiösa. Att ett av världens ledande AI-bolag aktivt söker råd från kyrkan speglar en bredare rörelse i branschen, där frågor om AI:s moraliska status och påverkan på sårbara användare tas allt mer på allvar.
McGuire skriver för tillfället en roman om en desillusionerad munk och hans AI-sällskap. Han gör det med hjälp av Claude.
