Intelligenza artificiale e minori, a New York stop ai chatbot che fingono di essere amici o fidanzati dei ragazzi. La governatrice firma la legge

Nello Stato di New York i chatbot di intelligenza artificiale non potranno più comportarsi come amici, confidenti o fidanzati con i ragazzi.

La governatrice Kathy Hochul ha firmato ieri 28 ottobre una legge che elenca alcune “funzioni non sicure” vietate quando dall’altra parte dello schermo c’è un minore di 18 anni. Secondo l’Associated Press, le nuove regole entreranno in vigore il 1° gennaio.

Le parole della governatrice

Alla cerimonia di firma ad Albany, Hochul ha presentato la legge con una serie di divieti. Il primo riguarda proprio le relazioni finte: “Non sarà più possibile per i minori accedere a chatbot che fingono di essere i loro amici, fidanzati e fidanzate”.

Ai chatbot sarà anche vietato conservare informazioni sensibili sulla salute emotiva e fisica dei ragazzi e scoraggiarli dal chiedere aiuto a professionisti abilitati. Sull’ultimo punto la governatrice non ha nascosto una certa amarezza: “Non so perché dobbiamo approvare una legge contro qualcosa di così ovvio, ma i minori non avranno più accesso a chatbot che possano in qualsiasi modo incoraggiare pensieri suicidi”.

I comportamenti vietati

L’AP descrive le categorie principali delle funzioni non sicure previste dalla legge: con un utente minorenne, il chatbot non potrà far credere di essere una persona reale, con emozioni, opinioni o un vero rapporto con chi scrive. Non potrà usare lusinghe, proporre contenuti sessualmente espliciti né incoraggiare il ragazzo a mantenere segreti o ad adottare comportamenti dannosi.

Le reazioni

La vicenda ha provocato la reazione delle aziende di intelligenza artificiale. Secondo l’AFP, Tech:NYC, l’organizzazione che rappresenta il comparto tecnologico di New York, ha puntato il dito contro il “linguaggio vago” della legge: tutelare i minori online, sostiene, non dovrebbe voler dire togliere loro strumenti utili per studiare e prepararsi al mondo del lavoro.