El temor a que la inteligencia artificial (IA) pueda llegar a extinguir a la humanidad tiene su epicentro en un edificio de oficinas en Berkeley, conocido como Constellation. Este espacio se ha convertido en un centro neurálgico para investigadores y emprendedores que advierten sobre un futuro potencialmente catastrófico debido al desarrollo de la IA. La influencia de esta comunidad ha permeado en el debate público y en la cultura de empresas como Anthropic, además de las discusiones sobre la regulación de la IA.
Las claves
- Constellation es un coworking en Berkeley que lidera el debate sobre los riesgos de la IA.
- La comunidad detrás de Constellation ha influido en empresas y en el debate público.
- Figuras como Eliezer Yudkowsky y Dario Amodei están vinculadas a este movimiento.
Contexto
El Constellation Institute se describe como una organización sin fines de lucro que busca garantizar un desarrollo seguro de la IA. Aunque reconoce el potencial de la IA para impulsar una prosperidad sin precedentes, también alerta sobre posibles escenarios catastróficos, como la pérdida de control de la civilización humana o la instauración de regímenes autoritarios. Este coworking funciona como un centro de reuniones y un nodo físico para la comunidad de «seguridad de la IA».
El espacio de Constellation está profundamente enraizado en la subcultura del altruismo eficaz y el racionalismo, comunidades que llevan más de una década advirtiendo sobre los riesgos de la IA. Eliezer Yudkowsky, una figura prominente, es fundador del Machine Intelligence Research Institute (MIRI) y creador de la comunidad LessWrong. Junto a Nate Soares, es autor de un libro que explora los peligros de una IA superinteligente.
La influencia de esta red se hizo evidente cuando un exingeniero de Anthropic acusó a los laboratorios de IA de «jugar con nuestras vidas». Evan Hubinger, jefe de alineamiento de Anthropic, respaldó esta afirmación, sugiriendo que existe un 10% de posibilidades de que la IA acabe con la humanidad en la próxima década. Hubinger también tiene vínculos con la comunidad de Constellation.
La lectura desde España
Para España, el debate sobre los riesgos de la IA que se desarrolla en Constellation podría servir de referencia para las discusiones locales sobre la regulación y el desarrollo seguro de la IA. Las empresas y las instituciones españolas podrían beneficiarse de las lecciones aprendidas por esta comunidad en Berkeley, especialmente en lo que respecta a la gestión de riesgos y la alineación ética de las tecnologías emergentes.