Sam Altman habla con Reid Hoffman en el evento Futuro inteligente de Greylock el 13 de septiembre de 2022 sobre la inteligencia artificial, los desafíos que se avecinan y el ‘problema de alineación’. Puedes ver el video completo en El canal de Greylock 2022 y la transcripción de la entrevista.
A modo de resumen , San Altman viene a decir:
El problema de la alineación se refiere a cómo asegurarnos de que un sistema de inteligencia artificial (IA) poderoso haga lo que queremos y no tenga objetivos conflictivos o en contra de los nuestros. Esto es importante porque la IA puede tener un gran poder y puede ser utilizada para causar daño intencional o accidentalmente. El problema de la alineación incluye cómo construir una IA que haga lo mejor para la humanidad y cómo evitar su mal uso.
Aunque aún no sabemos cómo resolver completamente este problema, tenemos algunas ideas sobre cómo alinear sistemas de IA a pequeña escala y hemos sido capaces de alinear modelos más grandes de IA mejor de lo que pensábamos. A medida que la IA mejore, esperamos poder utilizarla para ayudarnos a investigar el problema de la alineación y encontrar soluciones.
- [con]Neurona #31 - 28 de enero de 2024
- [con]Neurona #30 - 20 de enero de 2024
- [con]Neurona #29 - 14 de enero de 2024
