París, Francia.- La Inteligencia Artificial (IA) generativa no está diseñada para decir la verdad y carece de comprensión del mundo real, advirtió ayer el experto francés en ética digital, Nicolas Curien. Sus declaraciones, realizadas en la sede de la Unesco en el marco de la Semana del Sonido, ponen en evidencia la creciente preocupación global sobre el impacto de estas nuevas tecnologías.
Curien, integrante del Comité Consultivo Nacional de la Ética Digital de Francia, enfatizó la diferencia fundamental entre el conocimiento lingüístico de la IA y su nula aprehensión del mundo fáctico. «En lo que concierne al respeto de la verdad y la autenticidad, la IA generativa no está hecha realmente para ellas, porque conoce las palabras, pero no conoce el mundo», afirmó el especialista.
El experto recalcó que la inteligencia artificial debe ser considerada una herramienta complementaria y no una fuente autónoma de información veraz. La clave, según Curien, radica en el sentido crítico humano. «Debemos contar con el sentido crítico humano para interpretar la producción de la IA generativa», sostuvo, subrayando la responsabilidad individual en el filtrado y análisis de los contenidos generados.
La conferencia también sirvió como plataforma para alertar sobre el vertiginoso avance de esta tecnología y la proliferación de los «deepfakes». Estos contenidos falsificados, que replican con sorprendente precisión imágenes y voces humanas, abren la puerta a nuevos esquemas de fraude y manipulación. Esta preocupación se alinea con advertencias recientes sobre suplantación de identidad para fraudes, un riesgo amplificado por las capacidades de la IA.
Otro punto de debate importante fue el impacto laboral de la IA generativa. Se anticipa que su desarrollo podría transformar y afectar significativamente empleos en áreas como la interpretación, la traducción, el doblaje y la creación musical, planteando la necesidad de adaptación y nuevas políticas laborales.
«La capacidad de reproducir una voz a la perfección abre la vía a las manipulaciones y a nuevas formas de influencia psicológica», advirtió el periodista y profesor Christophe Rioux durante el panel dedicado a la inteligencia artificial, destacando las implicaciones para la vida privada y los desafíos regulatorios y éticos que esto conlleva.
Los participantes subrayaron la urgencia de establecer marcos éticos y regulatorios que guíen el desarrollo y uso de la IA, asegurando que esta tecnología beneficie a la sociedad sin comprometer la verdad, la privacidad y la integridad de la información.
Recibe las 5 noticias más importantes de cada mañana, directo en tu correo.
