Ti spiano ogni giorno per addestrare le IA: la scoperta che fa rabbrividire tutti

L’intelligenza Artificiale si nutre di dati, peccato che le ‘cavie’ siano selezionate senza il loro consenso: la scoperta degli esperti.

Se un utente cerca una ricetta con solo due ingredienti in frigo, può utilizzare l’IA che fornirà le proposte; stesso discorso per i viaggi: esistono sistemi in grado di avvisare l’utente quando il prezzo si abbassa. Per non parlare della generazione di foto, musica e quant’altro. Insomma, l’IA è entrata come un fulmine a ciel sereno nella vita degli utenti con la premessa di migliorarla. Ma a quale prezzo?

Nel pensiero collettivo basterebbe pensare ad un affascinante concetto di progresso tecnologico, ma analizzando in senso pratico, la questione si fa più cinica. L’IA utilizza diversi dati per allenare il sistema; o meglio, coloro che lavorano su di essa, utilizzano informazioni degli utenti. Ad oggi però, il problema non sembra neanche il sistema, ormai di dominio pubblico, bensì il modo poco trasparente con cui questa pratica va avanti da tempo.

Intelligenza Artificiale: il meccanismo subdolo della raccolta di dati

La piattaforma Slack, a quanto pare, ha raccolto – e raccoglie tutt’ora – messaggi, file e dati per addestrare le sue funzionalità di Intelligenza Artificiale dietro le quinte. La cosa peggiore? Gli utenti sono stati automaticamente inclusi in questa pratica senza la loro conoscenza o consenso. In questi giorni, alcuni utenti hanno scoperto questa spiacevole novità leggendo l’informativa sulla privacy. L’azienda canadese, acquisita da Salesforce a fine 2020, non ha preventivamente avvisato che l’uso dei dati è automatico e che la loro esclusione deve essere esplicitamente richiesta.

La nuova policy è stata scoperta casualmente da Corey Quinn, un dirigente di DuckBill Group. Slack scrive che non usa i dati degli utenti per addestrare i modelli di intelligenza artificiale generativa, ma può usarli per addestrare i modelli di machine learning e quelli di intelligenza artificiale non generativa sfruttati per alcune funzionalità, come il suggerimento di emoji e canali, completamento automatico e ricerca. Che sia in un modo o nell’altro, l’azienda analizza messaggi, file e altri contenuti, senza richiedere un permesso esplicito.

A tal proposito, molti utenti hanno criticato la modalità opt-in. Per evitare che i dati siano utilizzati per l’addestramento dei modelli (opt-out) è necessario inviare un’email all’assistenza clienti. Slack, dal canto suo, ha confermato che accede ad alcuni dati degli utenti, ma non ai contenuti dei messaggi privati e di canali, sottolineando che la raccolta avviene in forma aggregata e che i dati non vengono usati per sviluppare modelli di IA generativa né condivisi con terze parti.

Dopo questa segnalazione sono stati implementati controlli tecnici per evitare accessi non autorizzati. Slack afferma di aver scelto la cosiddetta modalità opt-out perché ritiene che le protezioni siano sufficienti. Ad ogni modo, il problema principale potrebbe essere proprio nel sistema di allenamento dell’IA, che senza un riscontro umano, non riuscirebbe a progredire. Tuttavia, ciò che ad oggi fa sentire l’utente tradito è la mancanza di trasparenza e la tutela delle proprie informazioni.