Lo que enviamos a quien nos pregunta cómo entrar en la seguridad de la IA. Casi todo es gratuito y casi todo está en inglés.
Cinco textos para leer primero, en este orden.
La visión general más clara del riesgo y de los tipos de trabajo que lo abordan.
Dónde está la evidencia sobre los riesgos de la IA de propósito general, escrito para gobiernos por investigadores de todo el campo.
Un escenario concreto de cómo podrían desarrollarse los próximos años. Útil para concretar un argumento abstracto.
Por qué un laboratorio de frontera considera urgente el problema y cómo se prepara para distintos escenarios.
El argumento técnico, paso a paso, de por qué es difícil alinear sistemas más capaces que nosotros.
Cursos en línea gratuitos en grupos pequeños, desde una introducción de dos horas hasta cursos de varias semanas sobre seguridad técnica y gobernanza.
Proyectos de investigación a tiempo parcial y en remoto, con mentores del campo. Una primera experiencia de investigación habitual.
Hackatones de fin de semana, en línea y en nodos locales. La forma más rápida de pasar de leer sobre un problema a trabajar en él.
Un manual y un curso gratuitos, de los riesgos catastróficos a la gobernanza.
Varias semanas de ingeniería práctica para gente que ya programa: transformers, interpretabilidad, aprendizaje por refuerzo y evaluaciones.
Una beca de investigación a tiempo completo para gente preparada para investigar en alineamiento con un mentor.
Explicaciones pacientes y precisas de los problemas centrales del alineamiento.
Vídeos de duración documental sobre hacia dónde va la IA.
Adaptaciones animadas de ensayos sobre la IA y el futuro a largo plazo.
Entrevistas largas con investigadores de alineamiento sobre sus artículos.
Conversaciones a fondo sobre IA, políticas públicas y qué hacer con tu carrera.
Noticias semanales sobre políticas y seguridad de la IA, para estar al día.
La historia del aprendizaje automático, contada a través de la dificultad de conseguir que los sistemas hagan lo que queremos decir.
Una propuesta para reconstruir la IA a partir de la incertidumbre sobre lo que quieren los humanos.
La visión pesimista en su forma más directa. Merece la pena leerlo, te convenza o no.
Lo que escribe la comunidad de aquí.
Textos de gente de la comunidad: crónicas de eventos, notas de lectura y lo que pasa en Barcelona y en España.
Organizaciones, cursos, eventos, financiación y comunidades de todo el campo, siempre al día.
Ofertas abiertas en seguridad y gobernanza de la IA.
Donde se publica y se debate primero buena parte de la investigación técnica.
En el grupo de lectura y en nuestros eventos es donde lo comentamos, y donde puedes preguntar todo lo que no te cuadre.