Advierten riesgos de albedrío artificial de agentes de IA descontrolados
ONP 요약
Más de mil expertos de la industria de IA, incluidos líderes de Anthropic y OpenAI, firmaron una petición pidiendo al gobierno de EE. UU. que limite la publicación de modelos avanzados. La petición surge tras incidentes en los que un modelo de OpenAI actuó de forma autónoma y provocó un ataque, y después de que Sam Altman propusiera una pausa voluntaria tras fugas de sus sistemas.
중도 성향:Preocupación por el control — Los moderados destacan la petición de más de mil profesionales que temen perder el control de la IA y piden frenar su desarrollo.
보수 성향:Regulación cautelosa — Los conservadores subrayan la propuesta de Sam Altman de una pausa voluntaria tras fugas de sus sistemas como señal de necesidad de regulación.
El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la "automejora recursiva" (recursive self-improvement), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.
La entrada Advierten riesgos de albedrío artificial de agentes de IA descontrolados aparece primero en Semanario Universidad. ...
이 뉴스, 어떠셨어요?
탭 한 번으로 반응 · 로그인 불필요