En Resumen
- Un abogado admitió haber presentado citas falsas generadas por Claude Console de Anthropic en un caso federal contra despidos de Trump.
- Greaves explicó que usó la IA por limitaciones de tiempo y encargó a una asociada verificar las citas, pero dos resultaron incorrectas.
- El caso se suma a una tendencia creciente de sanciones a abogados por presentar citas fabricadas por inteligencia artificial en tribunales.
Una pelea federal sobre los despidos de la administración de Donald Trump se ha convertido en el más reciente ejemplo de alucinaciones de IA entrando en los tribunales, después de que abogados admitieran haber presentado citas fabricadas generadas por inteligencia artificial.
En una declaración presentada el viernes, el abogado Jason Greaves admitió que el documento incluía citas falsas generadas después de que utilizara Claude Console de Anthropic para ayudar a preparar la moción.
"Dadas las estrictas limitaciones de tiempo, usé una plataforma de IA de nivel empresarial con aislamiento de datos, Claude Console, para crear un borrador inicial de la moción. Eso fue un error", escribió Greaves. "La mañana del 6 de mayo, envié el borrador a una abogada asociada, junto con instrucciones orales explícitas de que el borrador provenía de IA, y que necesitaba que las citas fueran cuidadosamente verificadas. Esa tarde, la asociada me informó que había revisado y verificado cada cita".
Según Greaves, la asociada señaló que dos de los casos citados eran incorrectos, pero que había encontrado un caso diferente para citar.
"Como socio supervisor y firmante del alegato, la responsabilidad de tener citas precisas recae enteramente en mí", agregó Greaves. "Asumo toda la responsabilidad por ello y me disculpo plenamente ante el tribunal y ante todos los abogados en este caso, por las citas fantasma que aparecieron en la moción. También me he disculpado personalmente con los abogados de los demandantes".
Lanzado en marzo de 2023 como Anthropic Developer Console, Claude Console es la plataforma empresarial de Anthropic para interactuar con sus modelos de IA Claude, que empresas y profesionales utilizan para redactar, resumir documentos, programar e investigar.
El caso se suma a una creciente lista de disputas judiciales relacionadas con la IA. En abril, abogados de la firma Sullivan & Cromwell fueron sancionados tras presentar citas legales falsas generadas por inteligencia artificial.
Esta última controversia por alucinaciones de IA surge de demandas presentadas contra la administración Trump por los despidos masivos federales y los cambios propuestos a las protecciones del servicio civil. El litigio incluye disputas vinculadas a recortes de personal de FEMA y al testimonio del exfuncionario del Departamento de Seguridad Nacional Joseph Guy, cuyos abogados presentaron la moción.
"Si bien los casos citados pueden haber respaldado en general nuestra posición, reconozco el error inexcusable de permitir la inclusión de citas fantasma", escribió Greaves.