AI Safety Barcelona conecta a estudiantes, investigadores e instituciones de Barcelona y de toda España con el trabajo global para que la IA de frontera sea segura.
Podemos medir lo que produce un modelo. Todavía no podemos decir con fiabilidad qué está calculando internamente, ni si seguirá haciendo lo que le pedimos a medida que gane capacidades.
Contratación, crédito, triaje médico, administración pública. Estos sistemas ya funcionan hoy en España, casi todos comprados fuera y desplegados por instituciones sin capacidad para auditarlos.
El Reglamento de IA se está aplicando en toda Europa. La mayor parte de ese trabajo se hace en Bruselas, Londres y San Francisco. Las universidades de Barcelona forman precisamente a las personas que podrían hacerlo.
Talleres que dan contexto técnico y de gobernanza, además de clubes de lectura y presentaciones de artículos. Sin requisitos previos.
Eventos abiertos en Barcelona y contactos con la gente que ya trabaja en esto — aquí y en los laboratorios e instituciones de fuera.
Hackatones: un fin de semana para pasar de leer sobre seguridad de la IA a producir algo propio, con mentores a mano.