El debate sobre el apocalipsis con @VitalikButerin ha comenzado: ¿Protegerá "d/acc" a la humanidad de la IA superinteligente? Vitalik es tanto un tecnoptimista acérrimo y constructor, como alguien dispuesto a considerar seriamente la regulación de la IA y los mecanismos de coordinación. Él acuñó el término "d/acc" – aceleración defensiva y descentralizada – como un camino intermedio entre la aceleración de la IA sin crítica y los escenarios de pausa total. Debatimos la viabilidad de la alineación de la IA, si enfoques como d/acc realmente funcionarían cuando llegue la superinteligencia, y por qué él piensa que un mundo pluralista de AIs en competencia podría ser más seguro que una única superinteligencia alineada. El núcleo de nuestro desacuerdo es que yo creo que nos dirigimos hacia un escenario de "plantas contra animales" donde la IA simplemente operará en escalas de tiempo que no podemos igualar, mientras que Vitalik cree que podemos mantener la agencia a través de la combinación correcta de tecnologías defensivas y diseño institucional. Finalmente, abordamos el discurso en sí – le pido a Vitalik que desmienta los ataques ad hominem comunes contra los doomers de la IA, desde "es solo una posición marginal" hasta "ningún verdadero constructor cree en el apocalipsis." Sus respuestas tienen peso dada su credibilidad como empresario exitoso y alguien que ha mantenido la honestidad intelectual a lo largo de su carrera. ¡Un gran agradecimiento a Vitalik por un debate de buena fe!