ChatGPT: La Revolución de la IA en la Ciencia y sus Desafíos
ChatGPT de OpenAI jugó un papel influyente en la comunidad científica en 2023, iluminando simultáneamente caminos hacia el progreso y generando controversia. El sistema de IA fue coautor de artículos científicos, a veces de forma clandestina, elaboró esquemas para presentaciones, propuestas de subvenciones y cursos académicos, generó códigos informáticos y funcionó como socio de intercambio de ideas para nuevas ideas de investigación. Sin embargo, también fabricó referencias, evocó hechos falsos y, en ocasiones, se hizo eco de discursos de odio. Su impacto era innegable, ya fuera utilizado como un asistente dócil, un interlocutor atractivo, una fuente de entretenimiento o incluso un motivo de miedo.
¿Por qué un programa de computadora aparecería en una lista de las entidades científicas más influyentes para 2023? Si bien no es un ser humano, ChatGPT sin duda ha dejado una huella significativa en el panorama científico durante el año pasado. Dado que su objetivo principal es continuar sin problemas los diálogos de acuerdo con sus datos de entrenamiento, junto con otros programas de IA generativa, ha remodelado el proceso de trabajo científico. También ha reavivado los debates sobre los límites de la IA, la esencia del intelecto humano y las formas óptimas de regular las interacciones de las dos entidades. Es por eso que Nature’s 10 ha dejado espacio para esta incorporación no humana en 2023.
Las capacidades de los modelos de lenguajes grandes (LLM, por sus siglas en inglés) como ChatGPT han estado en el radar de algunos científicos durante algún tiempo. Sin embargo, el lanzamiento de ChatGPT como agente de diálogo de uso gratuito en noviembre de 2022 abrió muchos más ojos tanto sobre el potencial como sobre los peligros de esta tecnología. Creada por investigadores de OpenAI en San Francisco, incluido Ilya Sutskever, es una red neuronal con cientos de miles de millones de parámetros, entrenada en vastos corpus de libros y documentos en línea, a un asombroso costo estimado de decenas de millones de dólares. La producción del robot fue refinada aún más por grandes equipos de trabajadores empleados para editar o calificar sus respuestas. En 2023, OpenAI mejoró el LLM subyacente de ChatGPT y lo integró con otros programas, permitiéndole procesar y generar imágenes y utilizar software matemático y de codificación.
Para algunos investigadores, estas aplicaciones ya han demostrado ser ayudantes de laboratorio indispensables. Ayudan a resumir o escribir manuscritos, perfeccionar aplicaciones y generar código. Según Marinka Zitnik, investigadora de inteligencia artificial de la Facultad de Medicina de Harvard, ChatGPT y software similar pueden ayudar a generar ideas, mejorar los motores de búsqueda científica e identificar lagunas en la investigación en la literatura. Los modelos entrenados de manera similar con datos científicos podrían contribuir a construir sistemas de inteligencia artificial que guíen la investigación, tal vez creando nuevas moléculas o simulando el comportamiento celular.
Sin embargo, esta tecnología no está exenta de riesgos. Los agentes conversacionales automatizados pueden ser explotados por plagiadores y tramposos, contaminando potencialmente la fuente del conocimiento científico. Ha habido casos de contenido no divulgado producido por IA que ha permeado Internet, y algunos científicos han admitido haber utilizado ChatGPT para generar artículos sin divulgación.
Otra preocupación son los problemas inherentes de sesgo y error en la IA generativa. Los LLM construyen un modelo del mundo trazando las interconexiones lingüísticas y posteriormente generando muestras plausibles de esta distribución, sin ningún mecanismo para evaluar la verdad o la falsedad. Esto da como resultado la reproducción de sesgos o inexactitudes históricas presentes en sus datos de entrenamiento y la creación de información fabricada, incluidas referencias científicas inexistentes.