06 mayo 2023
- Mucho ss está hablando sobre la IA (inteligencia artificial), y yo mismo me he declarado defensor de las nuevas tecnologías como bien pudiera serlo esta IA que se nos ha echado encima.
- Para aclarar algunas dudas o quizás para aumentarlas, no sé, voy a dejar aquí un artículo en el que un pionero de la IA se pone delante de ella para denunciar sus peligros presentes y futuros.
______________________________________________
Por qué este pionero de la inteligencia artificial decidió exponer los peligros de la tecnología
Por Jennifer Korn
20:08 ET(00:08 GMT) 2 Mayo, 2023
Nueva York (CNN) -- Geoffrey Hinton, también conocido como el "padrino de la inteligencia artificial", decidió que tenía que "exponer" la tecnología que él mismo ayudó a desarrollar, luego de que le generara preocupación lo inteligente que se estaba volviendo, según declaró este martes a CNN.
"Soy solo un científico que de repente se dio cuenta de que estas cosas se están volviendo más inteligentes que nosotros", le dijo Hinton a Jake Tapper de CNN en una entrevista este martes. "Quiero, en cierto modo, encender una alarma y decir que deberíamos preocuparnos seriamente por cómo impedir que estas cosas nos controlen", completó.
El trabajo pionero de Hinton sobre redes neuronales dio forma a sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Este lunes, su nombre saltó a los titulares por renunciar a su cargo en Google, donde trabajó durante una década, para hablar abiertamente sobre su creciente preocupación acerca de la tecnología.
En una entrevista este lunes con el diario The New York Times, que fue el primero en reportar de su decisión, Hinton dijo que le preocupaba el potencial de la inteligencia artificial (IA) para eliminar puestos de trabajo y crear un mundo en el que muchos "ya no serán capaces de saber qué es verdad". También señaló el asombroso ritmo de avance, mucho más allá de lo que él y otros habían previsto.
"Si llega a ser mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de una cosa más inteligente controlada por algo menos inteligente", explicó Hinton a Tapper este martes.
"Esto sabe cómo programar, así que encontrará formas de eludir las restricciones que le impongamos. Encontrará formas de manipular a las personas para que hagan lo que quiere".
Hinton no es el único líder tecnológico que ha expresado su preocupación por la inteligencia artificial. Varios miembros de la comunidad firmaron en marzo una carta en la que pedían a los laboratorios de IA que detuvieran el entrenamiento de los sistemas más potentes durante al menos seis meses, citando "profundos riesgos para la sociedad y la humanidad".
La carta, publicada por el Future of Life Institute, una organización sin fines de lucro que respalda Elon Musk, se publicó apenas dos semanas después de que OpenAI anunció GPT-4, una versión aún más potente de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.
Steve Wozniak, cofundador de Apple y uno de los firmantes de la carta, participó este martes en el programa "CNN This Morning" para hacer eco de las preocupaciones sobre su potencial para difundir desinformación.
"Engañar va a ser mucho más fácil para quienes quieran engañarte", sentenció Wozniak en CNN. "En realidad no estamos haciendo ningún cambio en ese sentido: solo estamos asumiendo que las leyes que tenemos se encargarán de ello".
Wozniak también dijo que probablemente se necesite "algún tipo" de regulación.
Hinton, por su parte, dijo a CNN que no firmó la petición. "No creo que podamos detener el progreso", dijo. "No firmé la petición diciendo que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detiene, la gente en China no lo haría".
Pero confesó no tener una respuesta clara sobre qué hacer en su lugar.
"No tengo claro que podamos resolver este problema", dijo Hinton a Tapper. "Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolver el problema. De momento no tengo una solución".
Fuente: https://tinyurl.com/2n3nffgj
Pánico me dan a mi estos avances, y más, sabiendo. al ritmo que ya hoy en día nos están manipulando y controlando con un simple microchip.
ResponderEliminarUn fuerte abrazo, amigo Enrique.
Sí, es un mundo nuevo, creciente y veloz en su puesta en uso, pero o nos preparamos para dominarlo, o ese mundo nos dominará a nosotros, Manuel.
EliminarUn abrazo.
El problema no es la inteligencia artificial sino como vamos cada de vez retrocediendo como especie. Cada vez necesitamos la tecnología. Te mando un beso.
ResponderEliminarReconozco, amiga Judit, que eso es lo que se ve y, especialmente, en los más jóvenes, pero eso es algo que las sociedades activas, presente y futuro, deberán resolver pues el progreso es imparable.
EliminarUn abrazo, escritora.
Tengo la impresión de que a mí estas cosas ya me pillan un poco tarde... No se si ese "Mundo Feliz" será o no será...
ResponderEliminarJajajajja, a mí, seguramente, también, Ildefonso, pero es imparable. Mi afición por la informática y por todas las nuevas tecnologías en general me han hecho estar, siempre, muy al día sobre estos asuntos y en mi vida profesional y familiar me han ayudado mucho a hacer mejor las cosas.
EliminarComo mínimo, es muy distraído, maestro.
Un abrazo.
Ya en 2001 Odisea del espacio la computadora se imponía al navegante, un avance ya previsto en la gran película. Esperemos que si este señor habla en serio lo tomen como tal y se hagan las previsiones, un abrazo Enrique!
ResponderEliminarAsí es, María Cristina, deberán hacerlo pues de otra forma sucumbirán (en un futuro muy cercano) como especie de no hacerlo.
EliminarFeliz domingo.