El sistema de ‘crédito social’ en China la lía al confundir caras con fotografías

Esto no es Black Mirror, esto es China en la actualidad. El gobierno de Pekín ha publicado detalles de su nuevo sistema de “crédito social” que dará a sus ciudadanos puntos según si se portan bien o se los restará si se portan mal, impidiendo que puedan conseguir, entre otras cosas, comprar asientos de tren o avión.

China pone a prueba un sistema para calificar ciudadanos como en Black Mirror

Con este sistema implementado, un ciudadano que incumpla normas o leyes de la ciudad perderá puntos de ciudadano, lo que le hará la vida mucho más difícil. Afectará no solo a su capacidad para, entre otras cosas, pedir un crédito para comprar una casa o un coche, también para poder viajar.

Los ciudadanos con peores puntuaciones tendrán difícil poder comprar billetes de avión o de tren ya que se les considerará de poca confianza.

No solo se restarán puntos a las organizaciones o a los ciudadanos que incumplas las reglas que el gobierno local implante, también los humillará de forma pública, haciendo accesible sus infracciones y puntuaciones.

El gobierno chino ya ha impedido que 11.4 millones de personas puedan adquirir billetes de avión, según publica un estudio. A esto hay que agregar 4.25 millones de personas a los que no se les ha vendido un billete de tren para viajar por el mismo motivo.

Según medios locales, 3 millones de personas tienen prohibido comprar billetes de tren de clase business.

La idea detrás de este sistema que puntúa a los ciudadanos es que “las personas desprestigiadas se vayan a la bancarrota”, comenta Hou Yunchun, antiguo director de desarrollo del sistema en Pekín.

Si un ciudadano quiere recuperar puntos puede presentarse como voluntario o donar sangre

El problema es que no se sabe hasta donde puede llegar las ramificaciones de un sistema de desprestigio social.

Si un ciudadano quiere recuperar puntos para poder tener una vida normal, deberá realizar acciones para la comunidad como apuntarse a trabajo de voluntariado o donar sangre.

¿Qué acciones pueden restarte puntos sociales? Fumar en zonas donde está prohibido, ensuciar las calles, comprar demasiados videojuegos o publicar noticias falsas en internet. ¿Quién decide qué es una noticia falsa en China? El gobierno.

¿Qué pasará cuando el sistema de desprestigio falle?

El sistema de IA que desprestigia a las personas que cruzan en rojo y las humilla, identificó este anuncio como una persona real. Captura: South China Morning Post

Ya ha pasado. Un sistema de inteligencia artificial que identifica personas que cruzan un una calle cuando no deben publica su foto en una gran pantalla para avergonzarlos. El problema es que este sistema no sabe diferenciar cuando una cara es un anuncio en un autobús, como le pasó a la CEO de la enorme empresa de aire acondicionados Gree Electric Appliances.

La cara de esta empresaria aparece en anuncios de autobús. Cuando uno de ellos pasó por las cámaras de este sistema la identificó como una persona que cruzaba con el semáforo en rojo, poniendo su rostro en una gran pantalla.

Este tipo de delitos pueden restar puntos sociales de forma automática. En este caso la IA no supo identificar que era un anuncio, y así, con sistemas imperfectos que afectan a la vida directa de ciudadanos, millones de errores como este pasarán factura.

+ Info | The Independent, Boing Boing