Las advertencias sobre inteligencia artificial pueden generar inquietud, especialmente cuando incluyen escenarios de catástrofe. En esta entrevista, Juan Guevara aborda esas preocupaciones y la importancia de utilizar estas herramientas con información, supervisión y pensamiento crítico.

Para interpretar el debate, conviene separar las capacidades actuales de los riesgos hipotéticos asociados a sistemas futuros. Los porcentajes expresados por algunos líderes tecnológicos son estimaciones personales; no deben presentarse como una probabilidad científica consensuada de extinción humana.

La seguridad también exige distinguir entre compromisos voluntarios y obligaciones legales. Anthropic, Google, OpenAI y xAI figuran entre los participantes en los compromisos de seguridad de Seúl, que contemplan evaluación de riesgos, medidas de protección y transparencia. Su existencia no significa que haya un único estándar obligatorio ni que los riesgos estén resueltos.

En el uso cotidiano, uno de los problemas más importantes son las alucinaciones: respuestas plausibles que contienen información falsa. Una explicación convincente puede incluir errores, por lo que los datos relevantes deben contrastarse con fuentes confiables.

La entrevista también plantea preguntas sobre memoria y conciencia. La personalización de ChatGPT puede utilizar información previa según sus funciones y configuración; eso no equivale a recordar literalmente todas las conversaciones. Tampoco demuestra conciencia. La autonomía operativa —ejecutar tareas mediante herramientas— es una cuestión distinta y requiere permisos, controles y supervisión.

Finalmente, compartir información con un chatbot no crea por sí solo una relación abogado-cliente. En Estados Unidos, ciertas conversaciones pueden estar sujetas a requerimientos judiciales, dependiendo del procedimiento, su relevancia y las protecciones aplicables. No significa que toda conversación se entregue automáticamente o vaya a utilizarse contra su autor.

El segmento invita a aprovechar la inteligencia artificial sin dejar de verificar sus respuestas, proteger los datos personales y buscar orientación profesional cuando una decisión lo requiera.