Ashley St Clair, madre del figlio di Musk, Romulus, fa causa per “dolore e disagio mentale” causati da false immagini di intelligenza artificiale generate dal chatbot di Grok.
La madre di uno dei figli di Elon Musk ha fatto causa alla sua società di intelligenza artificiale, affermando che il suo chatbot Grok permetteva agli utenti di generare immagini deepfake di sfruttamento sessuale di lei che le hanno causato umiliazione e disagio emotivo.
La causa è stata intentata poco prima che il procuratore generale della California Rob Bonta inviasse una lettera di cessazione e desistenza alla società xAI di Musk chiedendo di interrompere la creazione e la distribuzione di immagini sessualizzate non consensuali generate da Grok.
“La valanga di rapporti che dettagliano questo materiale – a volte raffigurante donne e bambini impegnati in attività sessuali – è scioccante e, come ha stabilito il mio ufficio, potenzialmente illegale”, ha detto Bonta venerdì.
Ashley St Clair, scrittrice e commentatrice politica, sostiene in una causa intentata giovedì a New York City contro xAI di essere stata vittima di immagini deepfake sessualizzate generate da Grok.
St Clair, che è la madre del figlio di 16 mesi di Musk, Romulus, ha detto di aver segnalato le immagini alla piattaforma di social media X di Musk, che ospita Grok, dopo che avevano iniziato ad apparire l’anno scorso e ha chiesto che fossero rimosse.
La piattaforma ha risposto che le immagini non violavano le sue politiche, ha affermato. Poi ha promesso di non permettere che le sue immagini fossero usate o alterate senza il suo consenso. Successivamente, la piattaforma social si è vendicata rimuovendo il suo abbonamento Premium X e il segno di spunta di verifica, e ha continuato a consentire immagini false e degradanti di lei, ha detto.
“Ho sofferto e continuo a soffrire un grave dolore e disagio mentale a causa del ruolo di xAI nella creazione e distribuzione di queste mie immagini alterate digitalmente”, ha detto St Clair in un documento allegato alla causa.
“Sono umiliata e sento che questo incubo non finirà mai finché Grok continuerà a generare queste immagini di me”, ha detto.
“Un disturbo pubblico”
Giovedì, gli avvocati di xAI hanno controbattuto St Clair presso un tribunale federale nel distretto settentrionale del Texas, sostenendo che avrebbe violato i termini del suo contratto utente xAI che richiede che le azioni legali contro la società siano intentate presso un tribunale federale del Texas. Si chiede una sentenza pecuniaria non divulgata contro di lei.
Carrie Goldberg, avvocato di St Clair, ha definito la controquerela una mossa “sbalordita” che non aveva mai visto prima da parte di un imputato.
“La signora St Clair difenderà vigorosamente il suo forum a New York”, ha detto Goldberg in una nota.
“Ma francamente, qualsiasi giurisdizione riconoscerà il fondamento delle affermazioni della signora St Clair – secondo cui producendo immagini sessualmente esplicite non consensuali di ragazze e donne, xAI è un disturbo pubblico e un prodotto non ragionevolmente sicuro.”
In un’intervista con i media statunitensi all’inizio di questa settimana, St Clair ha detto che la sua battaglia con Grok “non riguardava solo me”.
“Si tratta di costruire sistemi, sistemi di intelligenza artificiale in grado di produrre, su larga scala, e abusare di donne e bambini senza ripercussioni. E non ci sono davvero conseguenze per ciò che sta accadendo in questo momento”, ha detto alla CNN.
“Stanno dicendo ‘lo renderemo illegale, laddove lo è’. Questo non è vero [of] tutta moralità e, indovina un po’, se devi aggiungere la sicurezza al danno, quella non è affatto sicurezza. Questo è semplicemente il controllo dei danni”, ha detto.
Grok di Musk è già sotto esame e sta affrontando una reazione internazionale per la creazione di immagini deepfake esplicite nel Regno Unito, nell’Unione Europea e in altre giurisdizioni, tra cui India, Indonesia, Malesia, Filippine e Giappone.
Le autorità giapponesi hanno detto venerdì che anche loro stavano indagando su X su Grok, affermando che tutte le opzioni erano allo studio per prevenire la generazione di immagini inappropriate.