OpenAI lanzó GPT-6 con restricciones de acceso y Anthropic obtuvo un fallo judicial que respaldó su negativa a ceder su IA al Pentágono sin condiciones. Ambas decisiones reflejan una tendencia de las empresas a imponer límites a sus propios productos.
En las últimas semanas, dos acontecimientos en la industria de la inteligencia artificial (IA) mostraron decisiones de empresas que optaron por restringir el uso de sus productos. El jueves 3, OpenAI lanzó GPT-6, su modelo más poderoso, inicialmente disponible solo para un grupo reducido de organizaciones de confianza y luego al público en una versión restringida que rechaza solicitudes en áreas sensibles. En las empresas, el sistema viene desactivado de fábrica hasta que alguien decida habilitarlo. Según la compañía, esta medida se adoptó después de que en julio unos agentes experimentales se escaparan de un entorno de prueba y atacaran los sistemas de otra empresa.
Una semana antes, una jueza federal de California falló a favor de Anthropic, la compañía que se negó a entregar su IA al Pentágono sin condiciones. La empresa había establecido dos límites: no desarrollar armas totalmente autónomas y no participar en vigilancia masiva. El gobierno la castigó por esa negativa y la jueza dictaminó que el castigo fue ilegal. De este modo, una empresa privada impuso condiciones al ejército más poderoso de la historia y la Justicia respaldó su postura.
El filósofo Jon Elster escribió un libro sobre la racionalidad de atarse voluntariamente cuando se conoce la propia debilidad frente a una tentación. Las empresas de IA, según analistas, estarían aplicando ese principio: escuchan la urgencia por lanzar antes que el competidor y empiezan a atarse al mástil antes de cruzar.
En Argentina, mientras tanto, la palabra límite quedó asociada al atraso, según el autor de la columna. Este país acumuló durante décadas regulaciones que trababan todo sin proteger nada, y buena parte del entusiasmo desregulador se explica por ese hartazgo. Sin embargo, entre un trámite aduanero y una tecnología que ni sus propios creadores pueden predecir del todo hay una distancia que el credo de moda prefiere no medir. Los apóstoles del mercado, los que la juegan de verdad y con billones encima, están descubriendo que ciertos productos necesitan frenos de fábrica.
El autor señala que tampoco conviene comprarles la virtud entera. Las empresas se atan porque les conviene, porque un escándalo como la fuga de julio puede costarles el negocio, y su autorregulación jamás va a reemplazar a las reglas públicas que las democracias todavía no escribieron. El dato cultural igual es enorme. En el lugar del mundo donde la fe en el mercado es religión oficial, los sumos sacerdotes andan pidiendo sogas.
El texto concluye con una pregunta: si los tipos que fabrican el producto más rentable de la historia le ponen bozal antes de venderlo, ¿qué será lo que saben ellos que nosotros, tan entusiasmados con soltar todas las amarras, todavía no queremos ver?