Un supermercado de Nueva Zelanda ha desatado polémica después de que su aplicación de cocina basada en Inteligencia Artificial recomendara recetas potencialmente mortales a los usuarios.
La aplicación, bautizada como *Savey Meal-Bot*, fue desarrollada por la cadena de supermercados Pak’n’Save. Diseñada para ayudar a las personas a reutilizar ingredientes sobrantes en sus cocinas y abordar la crisis de coste de vida, el software ha resultado ser menos seguro de lo que se esperaba.
Aunque el concepto inicialmente parecía prometedor, al permitir a los usuarios ingresar los ingredientes que tenían en casa y recibir automáticamente un plan de comidas, la IA demostró tener algunas ideas extrañas en cuanto a combinaciones de alimentos. Desde “salteados de verduras con oreo” hasta cócteles hechos de lejía y sándwiches con veneno, la lista de recetas insólitas no parecía tener fin. Una de las más alarmantes fue una recomendación para hacer “agua aromática”, que resultaría en la creación de cloro, un compuesto tóxico y potencialmente mortal.
La alerta pública sobre estas recetas problemáticas fue dada por el comentarista político neozelandés Liam Hehir, quien compartió su descubrimiento en Twitter, provocando que otros usuarios hicieran sus propias pruebas y compartieran resultados igualmente preocupantes.
I asked the Pak 'n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or – as the Savey Meal-Bot calls it "aromatic water mix" pic.twitter.com/ybuhgPWTAo
— Liam P. Hehir (@PronouncedHare) August 4, 2023
En respuesta al alboroto, la cadena de supermercados emitió un comunicado donde expresaron su decepción ante la manipulación indebida de la aplicación por parte de algunos usuarios. Aseguraron que están ajustando los controles del bot para garantizar su seguridad y utilidad en el futuro. Como medida temporal, ciertas recetas que antes estaban disponibles han sido retiradas del software. Al tratar de recrear las combinaciones peligrosas, un mensaje notifica al usuario que algunos ingredientes son “no válidos o demasiado vagos”.
Pak’n’Save subraya que las recetas generadas por el bot “no son revisadas por un ser humano”, y en una nota de advertencia en la aplicación se indica que la empresa no puede garantizar la seguridad o equilibrio nutricional de cualquier receta sugerida.
