La filial australiana de la consultora Deloitte reembolsará parte de los 440 000 dólares australianos (6,1 millones de coronas checas) pagados por un informe que contenía errores causados por las llamadas alucinaciones de inteligencia artificial (IA). Entre ellos se encontraban citas falsas de una sentencia de un tribunal federal y referencias a artículos científicos inexistentes, según informó la AP.
La IA está cambiando el mercado de los servicios de consultoría
El error se produce en un momento en el que la expansión de los sistemas de inteligencia artificial está ejerciendo presión sobre las empresas de consultoría, según el sitio web Semafor. Según el sitio web, las grandes empresas de consultoría han despedido a aproximadamente 50 000 personas desde principios de 2023 en relación con la ralentización de la actividad tras la pandemia, el despliegue de la IA y la reducción del gasto público.
El informe de la empresa que presta servicios financieros al Departamento de Empleo y Relaciones Laborales se publicó originalmente en el sitio web del departamento en julio. La versión revisada fue publicada por el departamento a finales de la semana pasada, después de que Chris Rudge, de la Universidad de Sídney, alertara a los medios de comunicación de que el informe contenía citas y referencias falsas.
El ministerio australiano descubre errores en el informe de Deloitte
Deloitte realizó posteriormente una revisión del informe de 237 páginas y confirmó que algunas notas al pie y referencias eran incorrectas, según informó el ministerio el martes. «Deloitte ha acordado reembolsar el pago final previsto en el contrato», añadió el ministerio. La cantidad exacta se dará a conocer después del reembolso.
El informe de Deloitte analizaba cómo los sistemas informáticos del departamento australiano utilizan sanciones automatizadas en el sistema de seguridad social australiano. El departamento afirmó que el contenido del informe no había cambiado y que sus recomendaciones seguían siendo las mismas. En el contexto de la IA y los modelos lingüísticos, las alucinaciones son un término utilizado para describir las respuestas generadas que contienen información falsa o engañosa. También pueden ser el resultado de datos de entrenamiento insuficientes, obsoletos o sesgados.
Fuente: Reuters
