SI ALGUIEN LA CREA, TODOS MORIREMOS | ELIEZER YUDKOWSKYNATE SOARES

Un llamamiento inaplazable para poner freno a la carrera hacia la superinteligencia.«Un libro muy interesante, incluso si no estás de acuerdo con su conclusión.»Marta Peirano, periodista y escritora especializada en tecnología y poder.«Un ensayo provocador que, aunque se equivoca al vaticinar la extinción humana, acierta al identificar el desafío: la llegada de sistemas de IA avanzados con metas propias.»Jaime Sevilla, director de Epoch AI, centro de investigación del futuro de la IA«Si no entiendes cómo funciona una IA, estás en buena compañía: los propios ingenieros que las construyen tampoco lo entienden del todo. Este libro, que combina enfoques de seguridad informática con filosofía y ciencia ficción, explica por qué eso debería preocuparnos.»Hugo Viciana,filósofo y experto en ciencias cognitivasDesde hace unos años, cientos de expertos en inteligencia artificial vienen advirtiendo que esta suponeun grave peligro de extinciónpara la humanidad. Sin embargo, la carrera no ha dejado de intensificarse: empresas y países compiten por crearmáquinas más inteligentes que cualquier persona,y el mundo no está preparado. Durante décadas, Yudkowsky y Soares han estudiado cómo pensarán estas inteligencias, y su conclusión es cristalina: basta una mínima desviación para que desarrollenobjetivos propiosen conflicto con los nuestros. Si llega el momento, no habrá marcha atrás, pero aún estamosa tiempo de frenar y diseñar políticas que garanticen nuestra seguridad.La solución está clara: debemos actuar ahora para que la IA sea una aliada, no una amenaza.Este libro explica por qué es importante que nos protejamos de la IA, cómo podrían sucederse los acontecimientos y qué debemos hacer para evitar que nos domine.