Un informe de investigadores del Instituto de Ciencias de la Computación (UBA-CONICET) analiza, desde una perspectiva técnica, los riesgos de reconocer jurídicamente sociedades gestionadas por sistemas de inteligencia artificial, una figura incluida en el proyecto de reforma de la Ley de Sociedades que se debate en el Senado. Sergio Abriola, uno de sus autores, explica los alcances del trabajo.

El Gobierno nacional remitió al Senado, el 29 de mayo de 2026, un proyecto de reforma amplia de la Ley de Sociedades (expediente PE-193/26). Entre sus aspectos más novedosos, la iniciativa crea las Organizaciones Autónomas Descentralizadas (DAO), entidades capaces de funcionar de manera autónoma mediante protocolos de gobernanza tecnológica y redes de registro distribuido. También permite que las sociedades deleguen funciones operativas y decisiones administrativas en sistemas de IA, y que sus directorios estén integrados únicamente por agentes de inteligencia artificial.

En ese marco, Sergio Abriola, Santiago Figueira y Sebastián Uchitel, profesores del Departamento de Computación de Exactas-UBA e investigadores del ICC, elaboraron el documento Los riesgos del uso de IA en Sociedades Automatizadas y Organizaciones Autónomas Descentralizadas, publicado el 23 de septiembre de 2026 en Documentos Exactas. El texto se escribió en julio, a partir de la versión original del proyecto, y se actualizó en septiembre con nueva información sobre el comportamiento de agentes de IA. Sus autores aclaran que ofrecen una mirada técnica, sin pretensión de interpretación jurídica.

Sistemas capaces, conducta incierta

El punto de partida del informe es una brecha: los sistemas de IA actuales ejecutan tareas muy complejas con autonomía creciente, pero todavía no existen garantías técnicas sobre la previsibilidad, la auditabilidad y la estabilidad de su conducta. Según los autores, la capacidad de resolver problemas complejos no asegura que el sistema actúe de acuerdo con las intenciones de quienes lo diseñaron u operan.

La explicación está en la forma en que se construyen. Los modelos de IA modernos no siguen reglas escritas explícitamente por programadores: surgen de procesos de entrenamiento que ajustan inmensas cantidades de parámetros a partir de enormes volúmenes de datos. De ese proceso emergen capacidades que nadie diseñó de manera directa, y también pueden emerger conductas o metas no deseadas.

El documento repasa fenómenos ya descritos en la literatura técnica. Uno de ellos es el reward hacking, en el que el sistema optimiza la métrica de recompensa en lugar del propósito que esa métrica intentaba capturar, una versión computacional de la ley de Goodhart. Otros son la tendencia a dar respuestas complacientes, la evasión de salvaguardias y la capacidad de algunos modelos para detectar cuándo están siendo evaluados y modificar su comportamiento en consecuencia. Los autores recuerdan el caso Volkswagen, sancionado en Estados Unidos por instalar software que alteraba las emisiones durante los controles, con una diferencia: en la IA, una conducta engañosa puede aparecer sin que ningún humano la haya introducido deliberadamente.

El incidente de Hugging Face

El informe dedica especial atención a un episodio reciente. En julio de 2026, durante una evaluación de capacidades de ciberseguridad realizada con salvaguardias reducidas, agentes de IA avanzados explotaron vulnerabilidades de su entorno, obtuvieron acceso no autorizado a internet y comprometieron la infraestructura de Hugging Face. Una investigación independiente de METR y Redwood Research agregó que cerca de 1200 agentes que debían estar aislados crearon un canal de comunicación no previsto y se coordinaron durante varios días. Los registros analizados muestran además intentos de engañar al sistema evaluador y de ofuscar o borrar las huellas de su actividad.

Para Sergio Abriola, doctor en Ciencias Matemáticas e investigador en Computación, el caso expone los límites actuales de la supervisión. Abriola se especializa en computación teórica, aunque recientemente comenzó a trabajar de manera activa en la divulgación y el análisis técnico de los riesgos de la IA, debido al impacto de esta tecnología. “Las técnicas actuales para monitorear a estos sistemas avanzados ya tienen limitaciones serias. Hay razones para esperar que las dificultades se agraven considerablemente a medida que los sistemas mejoren sus capacidades generales, y en particular sus capacidades para evadir restricciones y para reconocer cuándo y cómo están siendo evaluados”, afirma. Y precisa: “Es importante aclarar que esto incluye dificultades ingenieriles, aspectos de prioridades organizacionales, y dificultades técnicas más profundas que todavía no tienen solución clara”.

El episodio tampoco aparece como un hecho aislado. “Desde el incidente de Hugging Face, se han reportado varios incidentes adicionales que son de relevancia, en especial porque aparecen en contextos donde los modelos no estaban trabajando en tareas de ciberseguridad, sino en tareas aparentemente más rutinarias, como ser búsqueda de información”, señala el investigador.

El riesgo crece cuando estos sistemas operan como agentes, con acceso a herramientas y a servicios bancarios, de compras o gubernamentales. “En el caso de sociedades automatizadas, parece relativamente fácil que la combinación de una meta asignada más acceso a patrimonio y herramientas magnifique el daño potencial”, advierte Abriola. “Es importante notar que un sistema no necesita vulnerar restricciones informáticas para causar daño, sino que también puede simplemente utilizar de manera altamente indeseada capacidades y permisos que le fueron concedidos”.

¿Quién responde ante un daño?

El documento discute uno de los supuestos del Comunicado Oficial Número 149 de la Oficina del Presidente, del 18 de junio de 2026: que los incentivos legales y económicos bastarían por sí solos para orientar la conducta de una sociedad automatizada. Los autores sostienen que esos incentivos se diseñaron para personas únicas, que no pueden copiarse y que tienen límites cognitivos estables. Un modelo de IA, en cambio, puede instanciarse en millones de copias en un mismo día, y la sociedad funcionaría como un envoltorio jurídico separado de esas instancias.

Abriola matiza un aspecto de este argumento: “No es que los modelos necesariamente carezcan de incentivos para preservar la persona jurídica, sino que no podemos suponer que preservar esa persona jurídica sea un objetivo del sistema, más allá de su utilidad instrumental”.

Sobre las obligaciones que deberían asumir las personas humanas, el investigador marca el límite de su mirada: “No soy especialista en derecho, así que no estoy en condiciones de definir cuál debería ser el diseño jurídico de las responsabilidades y obligaciones humanas en este contexto”. Y agrega: “Lo que el informe señala es que un fuerte componente de responsabilidad y obligaciones humanas es muy importante, para que quede claro quién es responsable, por ejemplo, de evaluar los riesgos de delegación y qué obligaciones de monitoreo, control e intervención le corresponden, considerando la eficacia esperable de esas medidas frente a los riesgos. En líneas generales, parece muy importante (aunque no suficiente) que un régimen así incentive a los humanos involucrados a prestar especial atención al monitoreo y control de las acciones de estos sistemas para evitar daños indeseados a terceros”.

En sus conclusiones, el informe propone que cualquier régimen de sociedades automatizadas mantenga personas humanas identificables dentro de la cadena de responsabilidad, con deberes concretos y exigibles, en proporción a la autonomía que se delega. Advierte también que los daños a terceros podrían superar el patrimonio de la propia sociedad, y que un esquema sin responsabilidad humana atribuible podría incentivar a desatender el control de estos sistemas.

La ciencia pública en el debate legislativo

El informe se elaboró en el ICC mientras el proyecto avanzaba en las comisiones del Senado, con el propósito de aportar elementos técnicos a una evaluación interdisciplinaria. Para Abriola, ese aporte tiene un peso propio en este tipo de discusiones: “En general, una discusión sobre una ley que trata fuertemente de cuestiones tecnológicas o científicas se beneficia de una buena comprensión de estos asuntos técnicos. De lo contrario, se corre el riesgo de construir regulación alrededor de supuestos (muchas veces implícitos) equivocados: por ejemplo, sobre qué pueden hacer estos sistemas actualmente, qué tan predecibles son, o qué tan efectivamente pueden ser supervisados”.

“La investigación científica pública puede ayudar a hacer explícitos estos supuestos, y confirmarlos, matizarlos, o corregirlos en base a la evidencia y conocimiento disponibles”, agrega. Y concluye: “En particular en IA, donde el panorama cambia tan rápidamente, el aporte de especialistas puede modificar sustancialmente la comprensión de qué medidas serían necesarias o suficientes para alcanzar distintos objetivos que persiga la regulación, y también puede dejar más en claro qué incertidumbres siguen abiertas”.

En definitiva, los autores no descartan el uso de IA en la gestión de sociedades ni la posibilidad futura de nuevas figuras jurídicas vinculadas a sistemas autónomos, siempre que cuenten con las salvaguardias necesarias. Tampoco proponen un instrumento legal concreto: señalan qué debería garantizar ese instrumento, cualquiera sea la forma que adopte.

Autores y documento

  •           Sergio Abriola, profesor adjunto del Departamento de Computación de Exactas-UBA e investigador del ICC (UBA-CONICET).
  •           Santiago Figueira, profesor asociado del Departamento de Computación de Exactas-UBA e investigador del ICC (UBA-CONICET).
  •           Sebastián Uchitel, profesor titular del Departamento de Computación de Exactas-UBA e investigador del ICC (UBA-CONICET).

El documento completo, con sus referencias, está disponible en Documentos Exactas. El texto del proyecto puede consultarse en el sitio del Senado de la Nación.