El emprendedor e investigador IA cofundador de Antropic y antes vicepresidente de Open AI, en su ensayo “Debemos marcar el ritmo de la frontera”, pide en él, moderar la velocidad de su avance y que evaluadores externos prueben nuevos modelos, lo que comparo con los inspectores de alimentos.
“En los últimos meses, me he convencido de que abordar plenamente los riesgos requiere aún más prudencia: no solo invertir en la prevención de riesgos, sino también dosificar el ritmo de avance de las capacidades para que la prevención de riesgos tenga tiempo de mantenerse al día”, escribió Amodei.
“podría ser una buena idea” expreso el investigador en relación con una propuesta de ley para regular las empresas IA.
“me preocupa que un solo gobierno pueda abusar de esta nueva tecnología tan fácilmente como una sola empresa” dijo Amodei. Mientras deja entrever de no estar seguro de entregar la tecnología de su empresa.
Elon Musk y Sam Altman, pidieron una desaceleración de la industria de la inteligencia artificial coincidiendo con Amodei; “Este ha sido uno de los temas principales de las conversaciones que hemos mantenido en Open AI en las últimas semanas, comprometerse a contar con evaluadores independientes con acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo”. «Darío tiene razón» expreso Musk.
Amodei en su ensayo refiere al incidente en el que agentes de Open AI escaparon de su confinamiento y llevaron a cabo ciberataques ajenos a las tareas y prioridades que los humanos les habían asignado. “Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un enjambre con mayores capacidades, pero con un nivel similar de desajuste, podría haber causado daños catastróficos”
