La legislación de la UE sobre IA entrará en vigor para las empresas del Reino Unido en unos meses, pero es dudoso hasta qué punto podrá seguir el ritmo de los avances en IA.
La verdad es que el pragmatismo humano y las autoridades existentes pueden desempeñar un papel mucho más importante a la hora de poner vallas de IA para las empresas que las nuevas regulaciones.
Los litigios en particular también desempeñarán un papel importante en la configuración de cómo utilizamos y operamos las herramientas de IA.
Vicepresidente de AGC y Cumplimiento, Archive360.
Las tecnologías de inteligencia artificial han ganado una velocidad vertiginosa en los últimos años y evolucionan a un ritmo vertiginoso. Las nuevas versiones de los mejores modelos de base se lanzan casi mensualmente, no cada dos años.
La legislación, por otro lado, es notoriamente lenta y avanza a través de interminables etapas y debates en comités antes de llegar a los estatutos.
La emisión de nuevas regulaciones avanza un poco más rápido, pero al igual que las nuevas leyes, a menudo llega tarde o no da en el blanco en los mercados en rápido desarrollo.
Advertencia de mito
El modelo Mythos de Anthropic es un ejemplo perfecto de ello. La capacidad del nuevo LLM para identificar vulnerabilidades de día cero en los sistemas de TI ha causado seria preocupación en todo el mundo, exponiendo en teoría la infraestructura de seguridad cibernética del mundo a un riesgo significativo.
Se anunció el 7 de abril con la intención de Anthropic de limitar su uso a un puñado de grandes empresas tecnológicas y bancos, como Apple y Goldman Sachs. El 22 de abril, Anthropic informa que estaba investigando si usuarios no autorizados habían accedido al modelo.
También vimos riesgos importantes en la cadena de suministro de software, como el hackeo de LiteLLM que estuvo en el centro de la violación de Mercor. Al momento de escribir este artículo, toda la infraestructura de seguridad de Internet no ha colapsado, pero los equipos de seguridad y cumplimiento están perdiendo el sueño.
La cuestión es que el intervalo entre la existencia del Mythos y la primera vez que planteó un riesgo en el mundo real se midió en días, no en años. Lo que significa que en ese momento, era efectivamente imposible para los legisladores conocer los nuevos desarrollos de IA que representa Mythos, considerar sus impactos potenciales y ajustar la legislación en consecuencia.
En lo que respecta a la ley, la IA es el pez más hábil. También es donde es más probable que veamos a reguladores y abogados confiando en las reglas y autoridades existentes, en lugar de esperar algo nuevo.
llama a los abogados
En ese contexto, los controles y equilibrios en la industria de la IA deben provenir de otra parte. En lugar de la tecnología de próxima generación, las empresas deben recurrir al rasgo más humano: el sentido común y el instinto de supervivencia. Es más probable que el pragmatismo, impulsado por la amenaza de demandas y multas bajo el nuevo marco de responsabilidad, impida implementaciones dañinas o irresponsables de IA mucho antes que las regulaciones formales.
En otras palabras, si se presentan casos exitosos por la creación o el uso de IA poco ética, podemos esperar que la propia industria haya hecho un trabajo mucho más preventivo, no limitado por leyes que todo lo ven, sino por casos precedentes.
No es una ilusión: la startup de IA Mercor, valorada en 10.000 millones de dólares, ya se enfrenta a siete demandas colectivas tras una violación de datos que generó preocupaciones sobre los datos de formación y la opacidad en sus prácticas. Según la demanda, Mercor monitoreó las computadoras de los contratistas y compartió los datos resultantes con los clientes, utilizó entrevistas grabadas de los candidatos para entrenar modelos de inteligencia artificial y capacitó modelos de clientes sobre contenido potencialmente propietario de otras empresas.
Los casos de Mercor se basan en leyes y regulaciones existentes, incluida la privacidad, la ciberseguridad e incluso el registro de causas de acción. Esto es instructivo, ya que los reclamos que surgen de problemas de IA no requieren leyes o regulaciones sofisticadas sobre IA, y es poco probable que la barra de los demandantes termine allí. Con el tiempo, las acciones legales contra el uso inapropiado, la infracción o el sesgo sentarán precedentes legales efectivos en el mercado, como nuevas regulaciones sobre IA.
Defensibilidad: un enfoque pragmático
Como resultado, los líderes reconocerán la necesidad de un enfoque pragmático sobre cómo se crean y utilizan los modelos de IA. A medida que crezca el número de casos de litigios sobre IA, será cada vez más evidente que las organizaciones deben poder proteger la capacitación, el uso y las operaciones continuas de las aplicaciones y agentes de IA.
No importará si aparece el colegio de abogados o el regulador del demandante, pero las compañías de seguros cibernéticos deben estar en buena disposición.
La forma en que los restaurantes manejan los alérgenos o los hospitales gestionan el cumplimiento de los pacientes se ha visto determinada en gran medida por casos de alto perfil, por lo que los tribunales pueden moldear la industria de la IA mucho más rápidamente que los parlamentos y las legislaturas.
Como resultado, las empresas de IA deben adoptar un enfoque estructurado e inteligente para sus prácticas de gobernanza de datos y IA. Es fundamental que comprendan el legado de sus datos, dónde se gestionan, cómo la IA y los agentes pueden acceder a ellos y utilizarlos, y monitorear los resultados.
Sin prácticas fundamentales de gobernanza de datos, el riesgo de cometer un paso en falso aumenta exponencialmente, exponiendo potencialmente a la organización a litigios, incluso si no se aplican regulaciones específicas de IA para restringir la actividad en cuestión.
El pragmatismo marcará el ritmo; la tecnología lo hará posible.
Enumeramos los mejores administradores de contraseñas.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
