Vilket ansvar omger AI
En man i Belgien, med psykiska problem och en oro för klimatförändringarna, chattade fram en form av vänskap med AI-roboten Eliza och Pierre tog slutligen sitt liv. Han efterlämnade en fru och två unga barn. Händelsen är tragisk och ingen vet om han begått självmord även utan interaktionen med den aktuella mjukvaran Eliza. Men det faktum att vi idag kan skaffa relationer med en mjukvara medför risken att en psykiskt utsatt människa får oro och ångest bekräftad med tragik som följd. Hur juridiken bedömer de här situationerna vet vi inte än men det finns 3 givna frågor och hur skulle motsvarande situation om den inträffar i Sverige hanteras rent rättsligt i Pierres fall.
- Var kan ansvaret prövas Företaget bakom appen, som anges vara Chai Research i artikeln från den 20 maj i DN, är beläget i USA, Kalifornien. En svensk familj som drabbas har ingen möjlighet att i svensk domstol pröva frågan mot ett bolag som är etablerat i USA. Bör det då finnas en möjlighet för svensk domstol att pröva talan mot ett utländskt Tech bolag enligt svensk rätt baserat på att den digitala tjänsten konsumerades i Sverige?
- Finns det någon som ansvarar I det här fallet interagerade Pierre med en mjukvara som är skapat att självständigt samspela med sina användare. Förutsatt att det kan bevisas att Pierres vänskap med mjukvaran faktiskt påverkat hans handlande att begå självmord, ska då skaparen av mjukvaran hållas ansvarig för skadan eller är det mer naturligt att det företag som gjort Elize tillgängligt för allmänheten ansvara för de skador som kan uppstå?
- Vad innebär ansvaret Enligt svensk rätt hade Pierres anhöriga haft en begränsad rätt till ersättning. Hade den efterlevande frun varit beroende av Pierres inkomst för att försörja familjen kan under vissa begränsade omständigheter ersättning för att kompensera den efterlevande familjen ha utbetalats. Vilket beror på att svensk skadeståndsrätt bygger på den reparativa principen, att den skadelidande ska ha samma ekonomiska sitts efter skadan som före. Vilket när det gäller dödsfall medför att kompensationsmöjligheterna är enastående begränsade. Det finns undantag i svensk lagstiftning där preventiva skadestånd tillämpas, och principen innebär att skadeståndet ska sättas till ett sådant belopp att skadevållare påverkas ekonomiskt vis skada. För Chai Research, ett Tech bolag belägget i Palo Alto Kalifornien, är det sannolikt så att ett belopp som potentiellt är kännbart för bolagets egen ekonomi bidrar till att undvika att deras produkter interagerar urskillningslöst med suicidala kunder. Och kan de inte nå en sådan säkerhetsnivå kan de fokusera på att tillhandhålla andra produkter som de tjänar pengar på.
De här frågeställningarna är inte oväntade och de är heller inte svåra att adressera. Frågan är när och hur den lagstiftande funktionen löser detta och den frågan är upp till våra politiker att lösa.