Quello che segue è un elenco di progetti di biosicurezza legati al lungoterminismo. Secondo noi la maggior parte di essi potrebbe ridurre il rischio biologico catastrofico di più dell’1% circa, seguendo l’attuale margine di approssimazione (in termini relativi[1]). Anche se siamo sicuri che ci siano lavori importanti da fare in ognuna di queste aree, la fiducia che riponiamo in percorsi specifici cambia parecchio e non abbiamo ancora analizzato a fondo ognuna di queste idee.
Detto ciò, questi campi per noi sono parti essenziali della struttura della biosicurezza e ci piacerebbe vedere dei progressi nel loro sviluppo. Per rimanere aggiornato su tutte le opportunità di collaborazione, compila questo modulo Google.
Centri per l’individuazione preventiva
Individuare in anticipo una minaccia biologica ci dà più tempo per formulare una risposta adeguata (ad esempio mettere a punto contromisure adeguate, usare dispositivi di protezione, rifugiarsi nei bunker, ecc.). L’attuale approccio nell’individuazione di nuovi patogeni è profondamente inadeguato: di solito richiede che un medico particolarmente sveglio si renda conto che c’è qualcosa di strano anche se i test per tutto il resto sono negativi. I sistemi attuali si concentrano quasi esclusivamente sui patogeni noti, ma un approccio di gran lunga migliore sarebbe usare un sistema neutro che possa individuare patogeni sconosciuti. All’atto pratico, un obiettivo semplice sarebbe quello di avere un piccolo gruppo di persone che raccoglie campioni volontari da viaggiatori da tutto il mondo e li analizza tramite sequenziamenti metagenomici completi alla ricerca di possibili minacce[2]. Dal momento che con questo approccio ci aspettiamo di riuscire a individuare i patogeni prima che infettino una percentuale troppo alta della popolazione mondiale, raccogliere e analizzare anche solo 100 campioni casuali al giorno sarebbe una differenza significativa in alcuni casi. Con la squadra giusta e tecnologia simile a quella attuale, pensiamo che questa ricerca possa essere svolta con meno di 50 milioni di dollari all’anno[3].
Questa proposta presenta un certo numero di ostacoli e una serie di soluzioni che si possono impiegare per superarli. Per quel che riguarda i problemi secondari, uno di noi (Ethan) sta mettendo assieme un elenco di suggerimenti. Appena sarà pronto, metteremo il link qui.
Super DPI (PPE)
La maggior parte dei dispositivi di protezione individuale (DPI, in inglese personal protective equipment, PPE) presenta diversi difetti. Mascherine e tute di protezione richiedono un certo addestramento per essere indossate correttamente, non sono riutilizzabili e di solito sono pensate per situazioni di routine, piuttosto che per eventi estremi. Quella piccola percentuale di dispositivi di protezione pensata per situazioni estreme (ad esempio tute BSL4 o DPI ad uso militare) è ingombrante, limita molto i movimenti e non viene prodotta in quantità sufficienti. Non è il genere di attrezzatura con cui si potrebbero equipaggiare milioni di operatori sanitari o lavoratori essenziali in caso di necessità. È plausibile che, tramite la scienza dei materiali e un buon design dei prodotti, la prossima generazione di dispositivi di protezione sia altamente efficace in situazioni estreme, ma anche facile da usare, durevole nel tempo ed economica o disponibile in grandi quantità.
Un obiettivo commerciale concreto potrebbe essere quello di produrre una tuta con relativo sistema pensata per permettere a persone con immunodeficienza grave di vivere vite relativamente normali, con un costo abbastanza basso da convincere il governo degli Stati Uniti ad acquistarne 100 milioni per lo Strategic National Stockpile[4]. Un altro obiettivo potrebbe essere quello di avere una tuta che rispetti gli standard dell’esercito, come ad esempio proteggere da un attacco con l’antrace.
Il vantaggio dei dispositivi di protezione individuale è che, quando si parla di patogeni, sono davvero “neutri”: possiamo farne scorta ancora prima di sapere quale sarà la minaccia, cosa che non possiamo fare con i vaccini o con molte contromisure sanitarie. Si tratta anche di una “difesa stabile”, dal momento che barriere fisiche come i DPI non possono essere superate facilmente utilizzando tecniche di bioingegnerizzazione (al contrario di molte contromisure sanitarie che potrebbero essere neutralizzate lavorandoci un po’ sopra). Per approfondire puoi dare un’occhiata a questo post di Carl Shulman.
Per quel che riguarda i problemi secondari dei DPI, uno di noi (Ethan) pubblicherà un approfondimento sui DPI nel prossimo futuro (il link sarà presto disponibile).
Contromisure sanitarie
Le contromisure sanitarie (vaccini, farmaci antivirali, anticorpi monoclonali) in caso di rischio biologico comportano attualmente una serie di lati negativi. Nella maggior parte dei casi sono sviluppati su misura contro patogeni già noti (ad esempio i vaccini contro il vaiolo) e non sarebbero di aiuto contro nuove minacce. Molte contromisure non sono poi efficaci in caso di ingegnerizzazione dei patogeni (gli antibiotici, ad esempio, sono ad ampio spettro, ma possono essere neutralizzati).
Secondo noi ci potrebbero essere opportunità per lo sviluppo e il miglioramento di contromisure sanitarie per minacce di categoria GCBR (Global Catastrophe Biological Risk, rischio biologico di catastrofe globale). Le possibilità sono due: 1) sviluppare contromisure mirate a minacce che suscitano particolare preoccupazione (oppure contromisure ad ampio spettro per un’intera categoria di minacce); 2) creare piattaforme di risposta rapida che siano affidabili anche contro minacce intenzionali.
Non ci sentiamo tuttavia pronti a consigliare le contromisure sanitarie come obiettivo generale per progetti su larga scala, in parte perché molti progetti in questo ambito comportano effetti collaterali involontari (ad esempio, le piattaforme che usano vettori virali potrebbero accelerare lo sviluppo dell’ingegnerizzazione virale). Se ti piacerebbe lavorare in quest’ambito, compila il modulo Google (qui) e ci metteremo in contatto con te per darti qualche consiglio su misura.
Miglioramento della Convenzione per le Armi Biologiche
La Convenzione per le Armi Biologiche, il trattato internazionale che vieta l’uso di armi biologiche, è attualmente gestita da sole quattro persone e non c’è modo di verificare che i firmatari ne rispettino le regole. Secondo noi c’è spazio di manovra per rendere più solida la convenzione in maniera creativa (ad esempio premi per i dipendenti che segnalano le irregolarità) o per la formulazione di nuovi accordi bilaterali che evitino stalli burocratici. Non solo, una squadra addetta all’analisi di documenti di libera consultazione, come archivi di pubblicazioni, annunci di lavoro e catene di approvvigionamento, potrebbe far sì che per un laboratorio sia più difficile eseguire di nascosto esperimenti illeciti, contribuendo in questo modo a rendere più efficace la convenzione.
Tecnologie per la sterilizzazione
Le tecniche di sterilizzazione che si basano su principi fisici (come le radiazioni ionizzanti) o proprietà antisettiche generiche (come l’acqua ossigenata o la candeggina), piuttosto che su particolarità a livello molecolare (come antibiotici gram-negativi), hanno il vantaggio di poter essere utilizzate in diversi contesti, sono difficili da neutralizzare e hanno minimi effetti collaterali in caso di utilizzo combinato.
Le attuali tecnologie di sterilizzazione fisica (come le luci UV o la scienza dei materiali che sviluppa superfici antimicrobiche) hanno limiti diversi in termini di costo, comodità e praticità. Per questo pensiamo che, quando si parla di sviluppare contromisure e metodi di prevenzione, questo sia un ambito poco esplorato. Ci sono ancora molte cose su cui non siamo sicuri, ma vale decisamente la pena di indagare.
Rifugi
I bunker già esistenti forniscono un certo grado di protezione, ma un ulteriore miglioramento potrebbe essere la costruzione di rifugi pensati appositamente per pandemie catastrofiche (come ad esempio squadre di operatori sanitari che a rotazione entrano ed escono per condurre test sui nuovi patogeni, una sorta di “kit di riavvio della civiltà”, magari anche con la possibilità di sviluppare e implementare contromisure biologiche in quello spazio protetto). Si tratterebbe di un modo efficace per avere sempre una parte della popolazione in quarantena preventiva.
Un altro punto di vista: secondo molte persone (e noi in pratica siamo d’accordo con loro), potremmo ridurre drasticamente il rischio biologico se avessimo un insediamento autonomo su Marte. In questo caso, sarebbe molto meno dispendioso avere lo stesso tipo di infrastruttura sulla Terra, dal momento che fornisce quasi lo stesso livello di protezione.
Il passo successivo sarebbe quello di fondare un’organizzazione specializzata nel gestire le operazioni, la logistica e le relazioni con gli appaltatori che servono per costruire un rifugio con tutto il necessario (uno di noi, ASB, ha condotto un’indagine superficiale e ha stimato i costi a circa 100-300 milioni di dollari per bunker, ma non aveva né il tempo né le conoscenze della logistica necessarie per indagare più a fondo). Più avanti metteremo qui dei link ad altre idee su cui stiamo ancora lavorando. Nel frattempo, se sei interessato, puoi compilare questo modulo.
Conclusione
Alcuni aspetti che ci preme sottolineare:
Nella loro totalità questi progetti potrebbero richiedere una grande quantità di talenti in campo ingegneristico e dirigenziale, nonché di denaro. Il limite maggiore potrebbero essere proprio i talenti in ambito dirigenziale, fondamentali per distribuire efficacemente le risorse e gli altri talenti.
Per molti degli interventi più promettenti, un possibile collo di bottiglia non riguarda conoscenze specialistiche di biologia o bioingegnerizzazione. Gli altruisti efficaci con conoscenze specialistiche che vogliano lavorare in questo campo dovrebbero prendere in considerazione l’idea di formarsi in altri ambiti ingegneristici. In generale, è consigliabile sviluppare competenze di ingegneria generale e di problem-solving, piuttosto che concentrarsi solo su nozioni di biologia.
Dal momento che questi progetti hanno cicli di retroazione positivi (perlomeno rispetto alla maggior parte degli interventi lungoterministi), questo ambito è un campo di sperimentazione ideale per meta-interventi di AE, soprattutto per quelli imprenditoriali.
Per quanto alcuni di questi progetti di biosicurezza ci sembrino promettenti e scalabili, non pensiamo che la biosicurezza debba per forza diventare una parte molto più grande del lavoro lungoterminista rispetto a quanto è già. Da un punto di vista strettamente lungoterminista, pensiamo che l’intelligenza artificiale possa essere da 10 a 100 volte più importante della biosicurezza, anche se risolvere problemi di biosicurezza potrebbe essere più gestibile rispetto a risolvere quelli legati all’IA (forse di un fattore piuttosto grande). La biosicurezza genera interesse come area di intervento anche per ragioni non lungoterministe, data l’importanza del prevenire catastrofi minori che non porteranno al collasso della civiltà, ma sono comunque orrende (vedi ad esempio un COVID 10-100 volte peggiore). Pensiamo quindi che possa comunque essere interessante per chi si concentra di più sull’impatto sulle generazioni attuali.
Grazie aChris Bakerlee, Jamie Balsillie, Kevin Esvelt, Kyle Fish, Cate Hall, Holden Karnofsky, Grigory Khimulya, Mike Levine, and Carl Shulman per il feedback ricevuto per questo post.
Ad esempio, se la probabilità di rischio biologico nel prossimo secolo fosse dell’1%, ognuno di questi interventi ridurrebbe il rischio di catastrofe assoluto di almeno lo 0,01%.
Questo tipo di “sistema sentinella” verrà facilmente ignorato dai governi e dalle autorità di sanità pubblica tradizionali, perché non saranno all’erta per minacce bioingegnerizzate e sviluppate per sfuggire a strumenti di rilevamento di specifici patogeni.
Un possibile lato negativo di questa soluzione è il rischio che paesi ai ferri corti gli uni con gli altri possano vedere questo acquisto in massa di DPI come prova del fatto che ci si sta preparando a una guerra batteriologica, portando a una dinamica simile a quella della corsa agli armamenti. L’azienda in questione dovrebbe quindi fare attenzione al modo in cui si pone, oltre a vendere liberamente questi dispositivi ovunque nel mondo per far capire che si tratta di un uso difensivo.
[Opzionale] Progetti di biosicurezza concreti (alcuni con grandi potenzialità)
This is an Italian translation of Concrete Biosecurity Projects (some of which could be big)
Quello che segue è un elenco di progetti di biosicurezza legati al lungoterminismo. Secondo noi la maggior parte di essi potrebbe ridurre il rischio biologico catastrofico di più dell’1% circa, seguendo l’attuale margine di approssimazione (in termini relativi[1]). Anche se siamo sicuri che ci siano lavori importanti da fare in ognuna di queste aree, la fiducia che riponiamo in percorsi specifici cambia parecchio e non abbiamo ancora analizzato a fondo ognuna di queste idee.
Detto ciò, questi campi per noi sono parti essenziali della struttura della biosicurezza e ci piacerebbe vedere dei progressi nel loro sviluppo. Per rimanere aggiornato su tutte le opportunità di collaborazione, compila questo modulo Google.
Centri per l’individuazione preventiva
Individuare in anticipo una minaccia biologica ci dà più tempo per formulare una risposta adeguata (ad esempio mettere a punto contromisure adeguate, usare dispositivi di protezione, rifugiarsi nei bunker, ecc.). L’attuale approccio nell’individuazione di nuovi patogeni è profondamente inadeguato: di solito richiede che un medico particolarmente sveglio si renda conto che c’è qualcosa di strano anche se i test per tutto il resto sono negativi. I sistemi attuali si concentrano quasi esclusivamente sui patogeni noti, ma un approccio di gran lunga migliore sarebbe usare un sistema neutro che possa individuare patogeni sconosciuti. All’atto pratico, un obiettivo semplice sarebbe quello di avere un piccolo gruppo di persone che raccoglie campioni volontari da viaggiatori da tutto il mondo e li analizza tramite sequenziamenti metagenomici completi alla ricerca di possibili minacce[2]. Dal momento che con questo approccio ci aspettiamo di riuscire a individuare i patogeni prima che infettino una percentuale troppo alta della popolazione mondiale, raccogliere e analizzare anche solo 100 campioni casuali al giorno sarebbe una differenza significativa in alcuni casi. Con la squadra giusta e tecnologia simile a quella attuale, pensiamo che questa ricerca possa essere svolta con meno di 50 milioni di dollari all’anno[3].
Questa proposta presenta un certo numero di ostacoli e una serie di soluzioni che si possono impiegare per superarli. Per quel che riguarda i problemi secondari, uno di noi (Ethan) sta mettendo assieme un elenco di suggerimenti. Appena sarà pronto, metteremo il link qui.
Super DPI (PPE)
La maggior parte dei dispositivi di protezione individuale (DPI, in inglese personal protective equipment, PPE) presenta diversi difetti. Mascherine e tute di protezione richiedono un certo addestramento per essere indossate correttamente, non sono riutilizzabili e di solito sono pensate per situazioni di routine, piuttosto che per eventi estremi. Quella piccola percentuale di dispositivi di protezione pensata per situazioni estreme (ad esempio tute BSL4 o DPI ad uso militare) è ingombrante, limita molto i movimenti e non viene prodotta in quantità sufficienti. Non è il genere di attrezzatura con cui si potrebbero equipaggiare milioni di operatori sanitari o lavoratori essenziali in caso di necessità. È plausibile che, tramite la scienza dei materiali e un buon design dei prodotti, la prossima generazione di dispositivi di protezione sia altamente efficace in situazioni estreme, ma anche facile da usare, durevole nel tempo ed economica o disponibile in grandi quantità.
Un obiettivo commerciale concreto potrebbe essere quello di produrre una tuta con relativo sistema pensata per permettere a persone con immunodeficienza grave di vivere vite relativamente normali, con un costo abbastanza basso da convincere il governo degli Stati Uniti ad acquistarne 100 milioni per lo Strategic National Stockpile[4]. Un altro obiettivo potrebbe essere quello di avere una tuta che rispetti gli standard dell’esercito, come ad esempio proteggere da un attacco con l’antrace.
Il vantaggio dei dispositivi di protezione individuale è che, quando si parla di patogeni, sono davvero “neutri”: possiamo farne scorta ancora prima di sapere quale sarà la minaccia, cosa che non possiamo fare con i vaccini o con molte contromisure sanitarie. Si tratta anche di una “difesa stabile”, dal momento che barriere fisiche come i DPI non possono essere superate facilmente utilizzando tecniche di bioingegnerizzazione (al contrario di molte contromisure sanitarie che potrebbero essere neutralizzate lavorandoci un po’ sopra). Per approfondire puoi dare un’occhiata a questo post di Carl Shulman.
Per quel che riguarda i problemi secondari dei DPI, uno di noi (Ethan) pubblicherà un approfondimento sui DPI nel prossimo futuro (il link sarà presto disponibile).
Contromisure sanitarie
Le contromisure sanitarie (vaccini, farmaci antivirali, anticorpi monoclonali) in caso di rischio biologico comportano attualmente una serie di lati negativi. Nella maggior parte dei casi sono sviluppati su misura contro patogeni già noti (ad esempio i vaccini contro il vaiolo) e non sarebbero di aiuto contro nuove minacce. Molte contromisure non sono poi efficaci in caso di ingegnerizzazione dei patogeni (gli antibiotici, ad esempio, sono ad ampio spettro, ma possono essere neutralizzati).
Secondo noi ci potrebbero essere opportunità per lo sviluppo e il miglioramento di contromisure sanitarie per minacce di categoria GCBR (Global Catastrophe Biological Risk, rischio biologico di catastrofe globale). Le possibilità sono due: 1) sviluppare contromisure mirate a minacce che suscitano particolare preoccupazione (oppure contromisure ad ampio spettro per un’intera categoria di minacce); 2) creare piattaforme di risposta rapida che siano affidabili anche contro minacce intenzionali.
Non ci sentiamo tuttavia pronti a consigliare le contromisure sanitarie come obiettivo generale per progetti su larga scala, in parte perché molti progetti in questo ambito comportano effetti collaterali involontari (ad esempio, le piattaforme che usano vettori virali potrebbero accelerare lo sviluppo dell’ingegnerizzazione virale). Se ti piacerebbe lavorare in quest’ambito, compila il modulo Google (qui) e ci metteremo in contatto con te per darti qualche consiglio su misura.
Miglioramento della Convenzione per le Armi Biologiche
La Convenzione per le Armi Biologiche, il trattato internazionale che vieta l’uso di armi biologiche, è attualmente gestita da sole quattro persone e non c’è modo di verificare che i firmatari ne rispettino le regole. Secondo noi c’è spazio di manovra per rendere più solida la convenzione in maniera creativa (ad esempio premi per i dipendenti che segnalano le irregolarità) o per la formulazione di nuovi accordi bilaterali che evitino stalli burocratici. Non solo, una squadra addetta all’analisi di documenti di libera consultazione, come archivi di pubblicazioni, annunci di lavoro e catene di approvvigionamento, potrebbe far sì che per un laboratorio sia più difficile eseguire di nascosto esperimenti illeciti, contribuendo in questo modo a rendere più efficace la convenzione.
Tecnologie per la sterilizzazione
Le tecniche di sterilizzazione che si basano su principi fisici (come le radiazioni ionizzanti) o proprietà antisettiche generiche (come l’acqua ossigenata o la candeggina), piuttosto che su particolarità a livello molecolare (come antibiotici gram-negativi), hanno il vantaggio di poter essere utilizzate in diversi contesti, sono difficili da neutralizzare e hanno minimi effetti collaterali in caso di utilizzo combinato.
Le attuali tecnologie di sterilizzazione fisica (come le luci UV o la scienza dei materiali che sviluppa superfici antimicrobiche) hanno limiti diversi in termini di costo, comodità e praticità. Per questo pensiamo che, quando si parla di sviluppare contromisure e metodi di prevenzione, questo sia un ambito poco esplorato. Ci sono ancora molte cose su cui non siamo sicuri, ma vale decisamente la pena di indagare.
Rifugi
I bunker già esistenti forniscono un certo grado di protezione, ma un ulteriore miglioramento potrebbe essere la costruzione di rifugi pensati appositamente per pandemie catastrofiche (come ad esempio squadre di operatori sanitari che a rotazione entrano ed escono per condurre test sui nuovi patogeni, una sorta di “kit di riavvio della civiltà”, magari anche con la possibilità di sviluppare e implementare contromisure biologiche in quello spazio protetto). Si tratterebbe di un modo efficace per avere sempre una parte della popolazione in quarantena preventiva.
Un altro punto di vista: secondo molte persone (e noi in pratica siamo d’accordo con loro), potremmo ridurre drasticamente il rischio biologico se avessimo un insediamento autonomo su Marte. In questo caso, sarebbe molto meno dispendioso avere lo stesso tipo di infrastruttura sulla Terra, dal momento che fornisce quasi lo stesso livello di protezione.
Il passo successivo sarebbe quello di fondare un’organizzazione specializzata nel gestire le operazioni, la logistica e le relazioni con gli appaltatori che servono per costruire un rifugio con tutto il necessario (uno di noi, ASB, ha condotto un’indagine superficiale e ha stimato i costi a circa 100-300 milioni di dollari per bunker, ma non aveva né il tempo né le conoscenze della logistica necessarie per indagare più a fondo). Più avanti metteremo qui dei link ad altre idee su cui stiamo ancora lavorando. Nel frattempo, se sei interessato, puoi compilare questo modulo.
Conclusione
Alcuni aspetti che ci preme sottolineare:
Nella loro totalità questi progetti potrebbero richiedere una grande quantità di talenti in campo ingegneristico e dirigenziale, nonché di denaro. Il limite maggiore potrebbero essere proprio i talenti in ambito dirigenziale, fondamentali per distribuire efficacemente le risorse e gli altri talenti.
Per molti degli interventi più promettenti, un possibile collo di bottiglia non riguarda conoscenze specialistiche di biologia o bioingegnerizzazione. Gli altruisti efficaci con conoscenze specialistiche che vogliano lavorare in questo campo dovrebbero prendere in considerazione l’idea di formarsi in altri ambiti ingegneristici. In generale, è consigliabile sviluppare competenze di ingegneria generale e di problem-solving, piuttosto che concentrarsi solo su nozioni di biologia.
Dal momento che questi progetti hanno cicli di retroazione positivi (perlomeno rispetto alla maggior parte degli interventi lungoterministi), questo ambito è un campo di sperimentazione ideale per meta-interventi di AE, soprattutto per quelli imprenditoriali.
Per quanto alcuni di questi progetti di biosicurezza ci sembrino promettenti e scalabili, non pensiamo che la biosicurezza debba per forza diventare una parte molto più grande del lavoro lungoterminista rispetto a quanto è già. Da un punto di vista strettamente lungoterminista, pensiamo che l’intelligenza artificiale possa essere da 10 a 100 volte più importante della biosicurezza, anche se risolvere problemi di biosicurezza potrebbe essere più gestibile rispetto a risolvere quelli legati all’IA (forse di un fattore piuttosto grande). La biosicurezza genera interesse come area di intervento anche per ragioni non lungoterministe, data l’importanza del prevenire catastrofi minori che non porteranno al collasso della civiltà, ma sono comunque orrende (vedi ad esempio un COVID 10-100 volte peggiore). Pensiamo quindi che possa comunque essere interessante per chi si concentra di più sull’impatto sulle generazioni attuali.
Ancora una volta, compila questo modulo di coordinamento per rimanere informato su futuri sviluppi e opportunità.
Grazie a Chris Bakerlee, Jamie Balsillie, Kevin Esvelt, Kyle Fish, Cate Hall, Holden Karnofsky, Grigory Khimulya, Mike Levine, and Carl Shulman per il feedback ricevuto per questo post.
Ad esempio, se la probabilità di rischio biologico nel prossimo secolo fosse dell’1%, ognuno di questi interventi ridurrebbe il rischio di catastrofe assoluto di almeno lo 0,01%.
Questo tipo di “sistema sentinella” verrà facilmente ignorato dai governi e dalle autorità di sanità pubblica tradizionali, perché non saranno all’erta per minacce bioingegnerizzate e sviluppate per sfuggire a strumenti di rilevamento di specifici patogeni.
Un altro dibattito su questa idea, un “osservatorio dell’acido nucleico”, si può trovare qui.
Un possibile lato negativo di questa soluzione è il rischio che paesi ai ferri corti gli uni con gli altri possano vedere questo acquisto in massa di DPI come prova del fatto che ci si sta preparando a una guerra batteriologica, portando a una dinamica simile a quella della corsa agli armamenti. L’azienda in questione dovrebbe quindi fare attenzione al modo in cui si pone, oltre a vendere liberamente questi dispositivi ovunque nel mondo per far capire che si tratta di un uso difensivo.