Gracias por registrarte !
Accede a tus temas favoritos en un feed personalizado mientras estás en movimiento. descarga la aplicación
El « padrino de la IA » dijo que le preocupa cómo la gente usará las herramientas de IA que ayudó a crear, nombrando al presidente ruso Vladimir Putin y al gobernador de Florida Ron DeSantis en una entrevista con MIT Technology Review.
« Mira, aquí hay una forma en que todo podría salir mal », dijo Geoffrey Hinton a MIT Tech Review. “Sabemos que muchas de las personas que quieren usar estas herramientas son malos actores como Putin o DeSantis. Quieren usarlas para ganar guerras o manipular electorados”.
Hinton le dijo a MIT Tech Review que cree que las herramientas generativas de IA pronto podrán establecer sus propios « objetivos secundarios », lo que significa que las máquinas podrían descubrir cómo tomar decisiones más importantes que podrían usarse para mal.
“No piense ni por un momento que Putin no haría robots hiperinteligentes con el objetivo de matar ucranianos”, dijo Hinton. « Él no dudaría. Y si quieres que sean buenos en eso, no quieres microgestionarlos, quieres que descubran cómo hacerlo ».
Putin habló sobre la importancia de la IA en una charla de 2017 con los estudiantes y dijo que « quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo », informó el medio ruso RT.
Después de una década en Google, Hinton anunció el lunes que dejaba la empresa. Le dijo a The New York Times que se arrepiente de su papel como pionero de la tecnología de IA. Hinton, junto con dos de sus estudiantes de posgrado en la Universidad de Toronto, sentaron las bases para el desarrollo de la IA.
« Me consuelo con la excusa normal : si no lo hubiera hecho yo, alguien más lo habría hecho », dijo Hinton al Times.
Hinton dijo en Twitter que dejó Google, no para criticar a la compañía, sino para que « pudiera hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google », y señaló que « Google ha actuado de manera muy responsable ».
En su entrevista con el Times, Hinton compartió sus preocupaciones sobre los peligros de la IA.
« Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas », dijo Hinton.
Otros expertos en inteligencia artificial, incluido Elon Musk, quien cofundó OpenAI, creador de ChatGPT en 2015 y actualmente está construyendo su propio proyecto rival de inteligencia artificial, publicaron una carta abierta en marzo pidiendo una pausa de seis meses en el entrenamiento de sistemas de inteligencia artificial que serían más poderosos que el último lanzamiento de OpenAI. GPT-4.
La carta señala que los autores no piden una pausa « en el desarrollo de la IA en general », sino « simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes ».
En una entrevista en marzo, el director ejecutivo de OpenAI, Sam Altman, dijo que él y la compañía están « un poco asustados » de lo que la inteligencia artificial podría hacer en el futuro.
Hinton, por su parte, le dijo al Times que cree que podría ser demasiado tarde para detener la carrera de IA de los gigantes tecnológicos, y que la colaboración cuidadosa y la discusión sobre el control de la tecnología pueden ser la única solución.
« No creo que deban escalar esto más hasta que hayan entendido si pueden controlarlo », dijo.