Puede una tecnología de Inteligencia Artificial ser sensible, y con ello provocar un problema de confidencialidad en Google, al parecer esto es posible.
Y justo eso le sucedió al ingeniero de Google, Blake Lemoine, quien afirmó que la Inteligencia Artificial LaMDA de la firma es sensible; pero el consenso de los expertos prefieren mirar hacia otro lado.
En este sentido, Blake Lemoine destaca conversaciones con la Inteligencia Artificial, llamadas LaMDA (Language Model for Dialogue Applications).
Precisa el ingeniero de Google que la mencionada LaMDA, manifestó expresar temores de ser apagada.
Indica Lemoine que LaMDA habla sobre cómo se siente feliz y triste e intenta formar vínculos con los humanos.
Además de mencionar situaciones que nunca podría haber experimentado realmente.
“Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años”, dijo Blake Lemoine.
Destacan que LaMDA es un modelo impresionante, siendo uno de los más recientes de la línea de modelos de lenguaje grande de Google.
Acotan que LaMDA se entrenan con mucha potencia de cálculo y grandes cantidades de datos de texto, pero no son realmente sensibles.
Lemoine suspendido
Por tales revelaciones, El Washington Post afirma que Lemoine ha sido suspendido después de siete años en Google.
Esto después de haber intentado contratar a un abogado para representar a LaMDA y enviar a los ejecutivos un documento que afirmaba que la IA era sensible.
Su informe señala que Google dice que la publicación de las transcripciones rompió las políticas de confidencialidad.
¿Tonterías?
Aunque los expertos en Inteligencia Artificial recalcan que nuestras mentes son susceptibles de percibir tal habilidad, especialmente cuando se trata de modelos diseñados para imitar el lenguaje humano, como evidencia de la verdadera inteligencia, en el caso de LaMDA no solo puede hacer una charla convincente, sino que también puede presentarse como una persona que tiene autoconciencia y sentimientos.
Al respecto, Adrian Hilton de la Universidad de Surrey, Reino Unido, está de acuerdo en que la sensibilidad es una “afirmación audaz” que no está respaldada por los hechos.
Incluso el destacado científico cognitivo Steven Pinker intervino para derribar las afirmaciones de Lemoine, mientras que Gary Marcus de la Universidad de Nueva York lo resumió en una palabra: “tonterías”.
Seen the story saying that Google's AI has achieved sentience? Well stand down, Skynet fans, and put that Terminator gif away – we're a long way off from anything remotely resembling an artificial mind https://t.co/FmujKCKZgm
— New Scientist (@newscientist) June 13, 2022
