Ciencia y Tecnología

Ingeniero de IA de Google controvertido | Dirección de información

Blake Lemoine, ingeniero de software sénior en la organización de inteligencia artificial responsable de Google, está realizando un despido administrativo en medio de una ola de controversia. Tuvo una conversación en la que LaMDA AI de la compañía expresó su creencia de que era una “persona” en sus propias palabras y explicó por qué debería ser considerada “sentimental”.

Imagen: Getty

Google no comparte su opinión. Sin embargo, según el Washington Post, Remoin fue despedido por violar la política de privacidad de la empresa en colaboración con personas ajenas a la empresa para confirmar su teoría, no su opinión. El día antes del despido, Lemoyne presentó un documento a la oficina del Senador de los EE. UU., alegando que la tecnología de la empresa fue discriminada por religión.

Lemoine explicó en su blog personal que voluntariamente proporcionó una lista de los nombres de las personas que discutieron el tema. Algunos de ellos trabajaban para el gobierno de los Estados Unidos y mostraron interés en la supervisión federal del proyecto. Google argumentó que tal vigilancia era innecesaria.

Además, Lemoine invitó a un abogado que representa a LaMDA a hablar con un representante del Comité Judicial de la Cámara sobre las acusaciones de actividad poco ética en Google, informó Post.

La controversia rodea a LaMDA, acrónimo de modelo de lenguaje de aplicaciones interactivas. Lanzado en 2021, LaMDA es un sistema de procesamiento de lenguaje natural (NLP) de inteligencia artificial (IA) que imita la conversación humana con su capacidad avanzada para comprender insinuaciones. A diferencia de los chatbots que se usan comúnmente en la industria de servicio al cliente hoy en día, LaMDA le permite tener conversaciones fluidas sobre una variedad de temas.

En el anuncio, Google declaró que LaMDA se adhiere a los principios de IA y que el equipo de desarrollo está trabajando para minimizar el riesgo. La capacitación en sistemas NLP puede requerir atención debido a la discriminación o representación maliciosa incrustada en los datos de capacitación que son difíciles de filtrar.

Google dijo en un comunicado al Washington Post que el sistema imita la conversación, pero no tiene conciencia. Google también dijo que LaMDA ha sido revisada por su equipo y se ha demostrado que cumple con los principios de IA de la compañía.

El artículo original está disponible en el sitio para obtener más información. TI mundo CanadáPublicaciones hermanas Dirección de información..

Lea de nuevo:

Google I/O 2022: novedades de Google Workspace

Nuevo Laboratorio de Inteligencia Artificial en Montreal

Quebec comienza a reclutar proyectos en el campo de la inteligencia artificial

Traducción y adaptación al francés por Renaud Larue-Langlois




Etiquetas: Blake Lemoine, Google AI, Inteligencia Artificial, LaMDA

..

About the author

w-admin

Leave a Comment