El que enviem a qui ens pregunta com entrar en la seguretat de la IA. Gairebé tot és gratuït i gairebé tot és en anglès.
Cinc textos per llegir primer, en aquest ordre.
La visió general més clara del risc i dels tipus de feina que l’aborden.
On és l’evidència sobre els riscos de la IA de propòsit general, escrit per a governs per investigadors de tot el camp.
Un escenari concret de com podrien anar els propers anys. Útil per fer concret un argument abstracte.
Per què un laboratori de frontera considera urgent el problema i com es prepara per a diferents escenaris.
L’argument tècnic, pas a pas, de per què és difícil alinear sistemes més capaços que nosaltres.
Cursos en línia gratuïts en grups petits, des d’una introducció de dues hores fins a cursos de diverses setmanes sobre seguretat tècnica i governança.
Projectes de recerca a temps parcial i en remot, amb mentors del camp. Una primera experiència de recerca habitual.
Hackatons de cap de setmana, en línia i en nodes locals. La manera més ràpida de passar de llegir sobre un problema a treballar-hi.
Un manual i un curs gratuïts, dels riscos catastròfics a la governança.
Diverses setmanes d’enginyeria pràctica per a gent que ja programa: transformers, interpretabilitat, aprenentatge per reforç i avaluacions.
Una beca de recerca a temps complet per a gent preparada per investigar en alineament amb un mentor.
Explicacions pacients i precises dels problemes centrals de l’alineament.
Vídeos de durada documental sobre cap on va la IA.
Adaptacions animades d’assaigs sobre la IA i el futur a llarg termini.
Entrevistes llargues amb investigadors d’alineament sobre els seus articles.
Converses a fons sobre IA, polítiques públiques i què fer amb la carrera professional.
Notícies setmanals sobre polítiques i seguretat de la IA, per estar al dia.
La història de l’aprenentatge automàtic, explicada a través de la dificultat d’aconseguir que els sistemes facin el que volem dir.
Una proposta per reconstruir la IA a partir de la incertesa sobre què volen els humans.
La visió pessimista en la seva forma més directa. Val la pena llegir-lo, et convenci o no.
El que escriu la comunitat d’aquí.
Textos de gent de la comunitat: cròniques d’esdeveniments, notes de lectura i què passa a Barcelona i a Espanya.
Organitzacions, cursos, esdeveniments, finançament i comunitats de tot el camp, sempre al dia.
Ofertes obertes en seguretat i governança de la IA.
On es publica i es debat primer bona part de la recerca tècnica.
Al grup de lectura i als nostres esdeveniments és on en parlem, i on pots preguntar tot el que no et quadri.