Un’inchiesta giornalistica di Type Investigations e OneZero, che ha coinvolto oltre 30 esperti, mette in luce il fallimento decennale dell’industria tech nel valutare il rischio generato dai propri servizi e nel rispondere in tempi brevi per ridurre i danni generati. Un esempio è dato dai gruppi su Facebook, usati in molti paesi da organizzazioni per diffondere odio e disinformazione. Un esempio viene dal Myanmar, dove l’odio razziale e religioso è stato alimentato attraverso Facebook, senza che quest’ultimo fosse in grado di accorgersene e intervenire, se non dopo violenze e morti.
Una responsabilità che non viene riconosciuta. L’espansione su nuovi territori e lo sviluppo conseguente del giro d’affari e dei profitti hanno la priorità sulla prevenzione del rischio potenziale, nonostante i casi di odio e violenza siano ormai documentati e ripetuti. Una incapacità alla quale ancora non è stata data una risposta adeguata.
Launching a product that could impact a community, region, or even whole country — particularly where history and political context are unfamiliar — without sufficient language resources, can be dangerous. Critics argue that the problem is bigger than just a language barrier, and the solution isn’t simply better translations and machine learning. Instead, they say companies should take a more deliberate and reasoned approach when deciding to expand into parts of the world where they don’t fully understand the political and cultural dynamics.
Una ragione in più per usare queste piattaforme con distacco e con senso critico, per non essere indirettamente corresponsabili di questi abusi.
Leggi l’inchiesta: The risk makers
Photo by Mikael Seegen on Unsplash