Una foto caricata su Copilot, l'assistente di intelligenza artificiale di Microsoft, può finire sullo schermo di uno sconosciuto. La testata americana di tecnologia 404 Media lo ha raccontato il 28 settembre, citando documenti interni. Lo sconosciuto è un valutatore pagato per migliorare l'assistente. In ogni compito vede la richiesta dell'utente, la foto originale e due versioni modificate da Copilot, e sceglie la migliore. Uno dei valutatori, rimasto anonimo, ha detto che i volti si vedono sempre. Molte richieste, ha aggiunto, sono sessuali e di dubbio consenso.
Secondo i documenti i valutatori si contano a centinaia. Giudicano la qualità della modifica anche per quelle richieste; segnalare i contenuti dannosi è fuori dal loro incarico. Almeno una delle società che li reclutano è Prolific, nata all'Università di Oxford nel 2014. Prolific paga persone per partecipare a studi online, anche per valutare l'intelligenza artificiale. Non ha risposto a 404 Media.
Microsoft ha risposto a 404 Media che usa i dati dei clienti come descritto nelle condizioni d'uso, anche per migliorare i prodotti e far rispettare il codice di comportamento. Il codice è l'elenco degli usi vietati. Nelle domande frequenti sulla privacy, Microsoft scrive che «alcune conversazioni Copilot sono soggette a revisione sia automatizzata che umana per motivi di miglioramento del prodotto e sicurezza digitale». Lo scrive almeno dal maggio 2025. Secondo la stessa pagina, le conversazioni possono essere lette da «esperti di intelligenza artificiale qualificati» e da organizzazioni di ricerca esterne. Alla domanda se ci si possa sottrarre alla revisione, Microsoft risponde di no. Come motivo cita le indagini sulle violazioni del codice di comportamento.
Secondo le stesse domande frequenti, l'addestramento, cioè l'uso delle conversazioni per insegnare al sistema a rispondere meglio, si può spegnere nelle impostazioni. Per le immagini usate nell'addestramento, Microsoft dichiara di togliere i dati personali e di sfocare i volti. Nelle risposte sulla revisione umana la sfocatura non compare. La pagina sulle impostazioni avverte che spegnere l'addestramento lascia attivi altri usi, fra cui i «miglioramenti generali del prodotto o del sistema». Non risulta che Microsoft abbia chiarito se i compiti dei valutatori rientrino nell'addestramento o nella revisione.
Le pagine di Microsoft sulla revisione umana non distinguono fra paesi. Per l'addestramento, invece, le domande frequenti escludono gli utenti di sei paesi, fra cui Brasile e Corea del Sud. Nessuno è europeo.
Le domande frequenti valgono soltanto per la vecchia versione dell'app. Dal 18 agosto 2026 ne esiste una nuova. Nella vecchia, conversazioni e file restano archiviati fino a 18 mesi, salvo cancellazione. Per la nuova, Microsoft scrive che richieste, risposte e file caricati restano fuori dall'addestramento dei modelli di base. Sono i grandi modelli su cui è costruito l'assistente. Le nuove condizioni d'uso avvertono però che Copilot «può includere l'elaborazione dei dati sia automatizzata che manuale (umana)». Fra le impostazioni della nuova app manca un comando per escludere la revisione umana. Non risulta da quale delle due app né da quali paesi arrivino le foto valutate, né per quanto tempo Prolific e le altre società le conservino.
Per gli utenti europei il titolare del trattamento è Microsoft Ireland Operations Limited, a Dublino. Il titolare è la società che risponde dei dati. Il GDPR è il regolamento europeo sulla protezione dei dati. Dà a ciascuno il diritto di sapere dal titolare a chi ha comunicato i suoi dati, o almeno a quali categorie di destinatari. Il Garante della privacy pubblica un modello per queste richieste e raccoglie i reclami. Il GDPR permette anche di opporsi, motivando, agli usi che l'azienda giustifica con un suo interesse legittimo. L'informativa di Microsoft non dice quale giustificazione usi per la revisione umana.
