Durante años, activistas y académicos han expresado su preocupación sobre que el software de análisis facial que afirma ser capaz de identificar la edad, el género y el estado emocional de una persona puede ser sesgado, poco confiable o invasivo, y no debería venderse.
Microsoft Corp informó el martes que dejaría de vender la tecnología que analiza las emociones de las personas basándose en una imagen facial y que ya no proporcionaría acceso ilimitado a sus instrumentos de reconocimiento facial.
La decisión refleja los esfuerzos de Microsoft por controlar de forma más estricta sus productos de inteligencia artificial, en momentos en que legisladores en Estados Unidos y Europa se encuentran sopesando limitaciones legales.
Después de una revisión de dos años, un equipo de Microsoft desarrolló un “Estándar de inteligencia artificial responsable”, consistente en un documento de 27 páginas que establece los requisitos para que la inteligencia artificial no tenga un impacto nocivo en la sociedad.
Los requisitos incluyen garantizar que los sistemas brinden “soluciones válidas para los problemas que están diseñados para resolver” y “una calidad de servicio similar para grupos demográficos identificados, incluidos los grupos marginados”, de acuerdo con The New York Times.
“Estos esfuerzos plantearon cuestiones importantes sobre la privacidad, la falta de consenso sobre la definición de ´emociones´ y la incapacidad de generalizar la relación entre la expresión facial y el estado emocional en todos los casos de uso, regiones y demografía”, dijo Sarah Bird, gerente de productos en la unidad de Azure AI de Microsoft, en un blog.
Los clientes dispondrán de un año antes de perder el acceso a las herramientas de inteligencia artificial que pretenden inferir las emociones, el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje.
Google Cloud, de Alphabet, se embarcó el año pasado en una evaluación similar. Como consecuencua, Google bloqueó 13 reacciones previstas en su herramienta de lectura de emociones y puso en revisión cuatro existentes, como la alegría y la tristeza. La compañía está evaluando un nuevo sistema que analiza movimientos como fruncir el ceño y sonreír, sin tratar de asociarlos a una emoción.
Microsoft también dijo que los clientes ahora deben obtener la aprobación para utilizar sus servicios de reconocimiento facial, que pueden permitir a las personas iniciar sesión en sitios web o abrir carpetas mediante un escaneo facial.
La empresa pidió a sus clientes que eviten situaciones que vulneren la privacidad o en las que la tecnología pueda dar problemas, como la identificación de menores, pero no prohibió explícitamente esos usos.
