Ciencia y Tecnología

“Agradecemos los avances en tecnología, pero por favor comprenda las limitaciones de este tipo de sistema”.

lChatGPT, este agente conversacional desarrollado por OpenAI, recientemente se puso a disposición de forma gratuita en Internet.

ChatGPT es una herramienta de inteligencia artificial (IA) para probar el rendimiento de modelos de generación de lenguaje de última generación llamados Transformers. ChatGPT se puede usar para muchas tareas, como resumir texto, responder preguntas, crear o modificar programas de computadora, realizar tareas e incluso simular interacciones con el difunto.

Todos disfrutan y se jactan de las experiencias “impactantes”, pero pocos se preocupan por el lado ético de estas cajas negras. Por supuesto, debemos rendir homenaje al progreso tecnológico y al rendimiento impresionante, pero también debemos comprender las capacidades y limitaciones de este tipo de sistema.

Lea también: Artículos solo para suscriptores ChatGPT, software que te permite escribir pequeños textos confusos

¿Qué hace ChatGPT? Su texto digerido algorítmicamente… GPT-3 (Generative Pre-trained Transformer 3) es el modelo de lenguaje de ChatGPT. ChatGPT es una arquitectura de red neuronal con 175 mil millones de parámetros que utiliza representaciones lingüísticas previamente entrenadas de enormes bases de datos (Wikipedia, páginas web). Crea texto que imita el lenguaje humano en varios idiomas. Por construcción, el modelo solo registró información sobre palabras y partes de palabras y el contexto de su aparición.

Cubrir el mundo con “noticias falsas”

Por lo tanto, ChatGPT está capacitado para proporcionar la siguiente secuencia de palabras más probable de una entrada de texto. ¡Esto realmente no responde la pregunta! El modelo es obviamente flexible y no siempre produce el mismo texto. ChatGPT también utiliza el aprendizaje por refuerzo con un entrenador humano que clasifica varias respuestas alternativas. Por lo tanto, el modelo está optimizado a partir de la intervención humana.

ChatGPT es un sistema sociotécnico que enfatiza una serie de valores éticos. Puede imaginar historias inofensivas o corrosivas. He visto historias de conejos y diseños de armas.

El peligro más inmediato de estos sistemas es la posibilidad de que miles de millones de “noticias falsas” inunden el mundo, ya que ChatGPT permite todo tipo de invenciones de texto. Luego puede alimentarlo con estos nuevos datos artificiales recopilados de Internet.

Lea también: Artículos solo para suscriptores Más allá de la inteligencia artificial, los chatbots de ChatGPT deben sus habilidades para hablar a los humanos

Tendremos una increíble máquina de digestión de opiniones, conocimientos y referencias, amplificando la desinformación en Internet. Todavía es fácil detectar lo que ChatGPT está haciendo mal para preguntas muy específicas. No puedo explicar por qué o distinguir entre verdadero y falso sobre esa pregunta. Pero debemos aprender a cuestionar la respuesta del sistema. Prohibir ChatGPT en las escuelas puede no ser la mejor solución. Aprender a usarlo es clave para acelerar nuestra comprensión de estos sistemas y preservar el libre albedrío.

Debe leer el 50,33% restante de este artículo. Los siguientes son solo para suscriptores.

About the author

w-admin

Leave a Comment