Il chatbot basato sull'intelligenza artificiale, messo a disposizione per coloro che vogliono aprire un'attività in città, ha suscitato molte polemiche a New York. Infatti, le risposte fornite dal bot non solo sono errate, ma possono anche indurre a infrangere la legge dello stato di New York. Questo ha sollevato numerosi dubbi sulla validità e l'affidabilità del chatbot.
Una delle risposte problematiche datate dal bot riguarda la possibilità del datore di lavoro di trattenere parte della mancia dei dipendenti. Questa informazione è completamente errata, poiché la legge dello stato di New York proibisce esplicitamente ai datori di lavoro di trattenere le mance dei dipendenti. Le mance, sebbene possano essere conteggiate e considerate ai fini del salario minimo, non possono essere trattenute.
L'obiettivo di questo assistente basato sull'intelligenza artificiale era quello di aiutare coloro che vogliono aprire un'attività commerciale a comprendere meglio le complesse norme da rispettare. Tuttavia, molte delle risposte fornite dal chatbot sono scorrette e possono portare all'infrazione delle norme che avrebbero dovuto essere rese più chiare.
Un altro esempio di risposta errata fornita dal bot riguarda la possibilità per i datori di lavoro di cambiare gli orari dei dipendenti senza avvisarli. Anche questa pratica è chiaramente vietata dalla legge dello stato di New York. Inoltre, il chatbot fornisce informazioni sbagliate anche riguardo alle regole sugli affitti. Secondo l'assistente, un proprietario di casa può scegliere di non affittare a chi riceve sussidi per l'affitto, ma in realtà la legge dello stato di New York proibisce ai locatori di discriminare i potenziali inquilini in base alla loro fonte di reddito.
Un'altra informazione scorretta fornita dal bot riguarda l'obbligo di accettare pagamenti in contanti. Secondo il chatbot, non c'è alcun obbligo di accettare contanti, ma questa informazione è completamente sbagliata. Infatti, dal 2020, gli esercizi commerciali di New York sono tenuti ad accettare pagamenti in contanti per evitare discriminazioni nei confronti di coloro che per vari motivi non possono aprire un conto in banca.
Il MyCity Chatbot si basa sull'intelligenza artificiale di Microsoft Azure, la quale beneficia delle tecnologie di OpenAI, di cui Microsoft è un importante investitore. Tuttavia, ciò solleva interrogativi sulla validità e l'efficacia di questi strumenti, se possono fornire risposte errate e indurre le persone a commettere infrazioni.
Ora bisogna capire se qualcuno abbia effettivamente infranto la legge seguendo i consigli del bot, che, come ammesso dallo strumento stesso, possono essere errati o fuorvianti. Questo solleva interrogativi sulla responsabilità sia dell'azienda che ha sviluppato il chatbot che delle aziende che lo hanno adottato. È necessario fare chiarezza su questo problema per evitare possibili conseguenze legali.