Legisladores y expertos en tecnología dan la alarma sobre los peligros potenciales de la inteligencia artificial
Kara Frederick, directora de tecnología de la Fundación Heritage, habla de la necesidad de regular la inteligencia artificial, mientras los legisladores y los titanes de la tecnología debaten los riesgos potenciales.
Imagínate esto: abres tu aplicación favorita de reparto de comida para pedir un tentempié nocturno. Seleccionas tu pedido preferido y finalizas la compra. Cuando llega tu comida, descubres que te han puesto aderezo ranchero para acompañar tu rollo de canela. Lo sabes con certeza: pediste glaseado adicional y, al volver a consultar la aplicación, descubres que, efectivamente, pediste glaseado y te dieron salsa ranchera.
Acabas de experimentar una alucinación de inteligencia artificial (IA).
Las alucinaciones de la IA son la categoría de contenido que puede ser inexacto, disparatado o incluso perjudicial debido a que los modelos de IA extraen información de conjuntos de datos obsoletos o incorrectos. En este caso, la IA alucinó con lo que creía que serviría para sustituir el glaseado cuando se acabara en el restaurante. Sin el contexto adecuado, la IA hizo lo que pudo para trabajar con la información que tenía.
(Las alucinaciones de la IA son la categoría de contenido que puede ser inexacto, sin sentido o incluso perjudicial debido a que los modelos de IA extraen información de conjuntos de datos obsoletos o incorrectos. (Getty Images))
La llegada de la inteligencia artificial (IA) está desvelando numerosas oportunidades de negocio. La IA está prediciendo las tendencias del mercado de valores, detectando el fraude y el malware antes de que puedan infiltrarse en sistemas y dispositivos, y comunicando actualizaciones oportunas y útiles a los clientes. Sin embargo, con la nueva tecnología llegan nuevos riesgos que pueden ser mucho más graves que confundir el aderezo ranchero con el glaseado.
¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?
Las alucinaciones de la IA son una nueva amenaza empresarial que ha cobrado importancia debido a la introducción de la IA generativa (GenAI). Las predicciones sesgadas y los datos inexactos producidos por las alucinaciones de la IA pueden poner en peligro la reputación de empresas y particulares debido a una mala toma de decisiones o incluso a problemas legales y de derechos de autor como consecuencia de que la IA se haya entrenado con datos o contenidos ya existentes y disponibles en el dominio público. Las empresas deben asegurarse de que su tecnología de IA se basa en modelos fiables con acceso a datos frescos y continuamente actualizados para reducir significativamente las alucinaciones.
IA Generativa en la Naturaleza
Empresas de todos los sectores están evaluando ahora mismo las oportunidades de la GenAI. La IA Generativa -tecnología de IA que puede generar diversos tipos de contenido (por ejemplo, imágenes, vídeos, audio, texto y más) aprovechando las indicaciones y los datos existentes- puede utilizarse para la supervisión industrial, los dispositivos médicos, el diagnóstico sanitario y otras posibilidades infinitas.
No es de extrañar que IDC prevea que el gasto en soluciones GenAI alcanzará los 143.000 millones de dólares en 2027. Un estudio realizado por Salesforce llegó incluso a la conclusión de que el 45% de la población estadounidense ya utiliza GenAI.
McDonald's está considerando la posibilidad de automatizar los pedidos por voz en los autoservicios, Stitch Fix está experimentando con GenAI para sugerir estilos a sus clientes, y Morgan Stanley está construyendo un asistente de IA con GenAI. Personas y organizaciones de todo el mundo acceden cada día a servicios que utilizan la IA sin ni siquiera saberlo, por eso es tan importante que las empresas incorporen la IA a sus plataformas de forma segura y estratégica.
Muchos casos de uso de la IA requieren que se tomen decisiones primordiales o incluso que alteren la vida en un instante, como un diagnóstico médico o una decisión en medio de una intervención quirúrgica. Por lo tanto, la precisión y la calidad de los datos con los que se entrenan los modelos de GenAI son de suma importancia.
Los Datos También Tienen Fechas de Caducidad; Datos en Tiempo Real para Resultados Realmente Excelentes
Los alimentos y las tarjetas regalo caducan, y los datos también. ¿De qué sirven los datos si están desfasados y son inexactos? Para que la GenAI haga su trabajo -generar nuevos datos-, el modelo sobre el que se construye necesita información actual y contextualmente relevante de la que aprender. El aprendizaje profundo es un complejo proceso informático utilizado por los modelos de GenAI para analizar patrones en grandes conjuntos de datos y crear nuevos resultados.
Los datos son el combustible de la IA, que sólo es tan buena como los datos con los que se entrena. La calidad de los datos es cada vez más importante, ya que, a veces, los modelos de IA pueden etiquetar o categorizar erróneamente los datos, dando lugar a alucinaciones de la IA. Las empresas pueden mitigar esto incorporando datos en tiempo real.
HAZ CLIC AQUÍ PARA VER MÁS OPINIONES DE FOX NEWS
Los datos en tiempo real se entregan inmediatamente después de ser recogidos, proporcionando un flujo constante de información sin demora. Puede garantizar que las predicciones de un modelo de IA estén sincronizadas con los datos más recientes producidos. Este tipo de tecnología rápida y siempre actualizada puede reducir significativamente el riesgo de alucinaciones y, por tanto, es esencial para que las empresas aprovechen adecuadamente todo el potencial de la GenAI para impulsar la toma de decisiones y producir resultados empresariales positivos.
Adelantarse a las alucinaciones de la IA impulsa resultados empresariales positivos
Aunque es posible que las empresas no puedan eliminar por completo las alucinaciones de la IA, hay pasos necesarios que las organizaciones deben dar para evitar que se produzcan, a fin de evitar riesgos costosos y daños potenciales. La GenAI ya nos ha mostrado un atisbo de cuántas formas pueden cambiar nuestras vidas. Cuando se construye sobre un modelo de IA que aprovecha los datos en tiempo real, la IA puede y seguirá formando parte de nuestras vidas, proporcionando servicios mejorados, tiempos de respuesta más rápidos y nuevas formas de aprovechar la tecnología.