Las conversaciones con herramientas de inteligencia artificial como ChatGPT comenzaron a ocupar un lugar cada vez más relevante en los tribunales de Estados Unidos. Un relevamiento de The Washington Post identificó al menos 12 casos durante los últimos dos años en los que intercambios con chatbots fueron incorporados como evidencia en procesos penales y civiles.

El fenómeno plantea un nuevo debate sobre la privacidad de los usuarios, especialmente porque muchas personas utilizan estas plataformas para realizar consultas personales sobre vínculos, salud mental, cuestiones laborales o problemas legales.

A diferencia de una búsqueda tradicional en internet, las conversaciones con IA suelen incluir mayor cantidad de contexto personal, con detalles sobre situaciones, emociones, dudas y posibles intenciones.

De consultas privadas a expedientes judiciales

Uno de los casos mencionados involucró a un adolescente que había utilizado ChatGPT para intentar comprender una conversación con su padre. Parte de esos intercambios terminó incorporada a una demanda contra Meta, Snapchat, TikTok y YouTube.

El caso muestra una de las principales preocupaciones de los especialistas: los usuarios pueden compartir con un chatbot información que posiblemente no revelarían de la misma manera frente a familiares, amigos o incluso profesionales.

Para Michael Price, director de litigios del Fourth Amendment Center de la National Association of Criminal Defense Lawyers, estos registros pueden ofrecer una visión especialmente amplia sobre el pensamiento y el contexto de una persona.

Cuando los chats aparecen en investigaciones penales

También existen casos en los que las conversaciones con IA fueron utilizadas en investigaciones criminales.

En Florida, OpenAI alertó al FBI sobre un usuario que habría utilizado ChatGPT para hablar sobre planes destinados a atacar a su expareja. La información permitió que las autoridades identificaran a la presunta víctima y avanzaran con la investigación.

La compañía explicó que cuenta con sistemas destinados a detectar posibles conductas peligrosas y que, cuando sus revisores consideran que existe un riesgo inminente y creíble de daño a otras personas, pueden informar a las autoridades.

Otro caso ocurrió en Missouri, donde un estudiante investigado por daños contra vehículos había autorizado a la Policía a revisar su teléfono. Entre los registros encontrados había consultas realizadas a ChatGPT durante la madrugada en que ocurrieron los hechos.

También pueden utilizarse en causas civiles

El uso de estos registros no se limita a investigaciones penales.

En procesos civiles, las conversaciones pueden aparecer durante las etapas de intercambio de pruebas, especialmente cuando las partes deben entregar información almacenada en dispositivos electrónicos.

Un caso ocurrido en Michigan involucró a un trabajador demandado por su antiguo empleador. Durante la revisión de sus dispositivos apareció una conversación en la que consultaba a ChatGPT sobre la posibilidad de recuperar correos electrónicos eliminados incluso después de una orden judicial.

La jueza consideró ese intercambio como una prueba relevante para sostener que podría haber existido una retención deliberada de información.

Las conversaciones con IA no tienen el mismo privilegio que las de un abogado

Uno de los principales puntos de discusión es la falta de un privilegio legal específico para las conversaciones con chatbots.

Mientras determinadas comunicaciones entre abogados y clientes, o entre médicos y pacientes, cuentan con protecciones legales particulares, ese nivel de confidencialidad no se aplica automáticamente a las conversaciones con herramientas de inteligencia artificial.

El propio Sam Altman, CEO de OpenAI, planteó que debería existir una protección similar al secreto profesional para este tipo de intercambios, debido a la cantidad de información sensible que los usuarios comparten con la IA.

Sin embargo, los tribunales estadounidenses todavía no adoptaron ese criterio.

En febrero, un juez federal de Nueva York resolvió que un ejecutivo investigado por fraude no podía impedir que la fiscalía accediera a sus conversaciones con Claude, pese a que el acusado había utilizado el chatbot para consultar posibles estrategias de defensa.

El caso marcó un precedente sobre los límites de la confidencialidad de estas herramientas y refleja un escenario que podría repetirse a medida que aumente el uso de la inteligencia artificial.