OpenAI está siendo demandado por calumnias y difamación por una respuesta falsa de Chatgpt. La víctima es un locutor de radio estadounidense que supuestamente fue acusado de defraudar y malversar fondos de una organización sin fines de lucro por parte del chatbot de IA.
- ChatGPT obtiene compatibilidad con Siri y accesos directos en iPhone y una versión optimizada para iPad
- Tim Cook dice que usa ChatGPT y pide regulación
La víctima, Mark Walters, dice que se enteró del asunto a través de un periodista llamado Fred Riehl. El reportero le habría pedido a ChatGPT un resumen de la información de la emisora de un PDF en línea y recibió las acusaciones en respuesta.
Entre los cargos creados por AI estaba la apropiación indebida de más de $5 millones de una ONG llamada Fundación Segunda Enmienda. Riehl encontró extraño el Caso, investigó y no encontró ninguna denuncia al respecto.
–
Canaltech Podcast: de lunes a viernes, puede escuchar los principales titulares y comentarios sobre eventos tecnológicos en Brasil y en el mundo. Enlaces aquí: https://canaltech.com.br/360/
–
ChatGPT no tiene la capacidad de abrir archivos PDF o leer contenido de otros sitios web. Se suponía que la IA daría esta respuesta por defecto, como casi siempre lo hace, pero prefirió inventar datos por una razón desconocida.
El caso de Walters está pendiente desde el 5 de junio en la Corte Superior del condado de Gwinnett, en Georgia, en la región sur de Estados Unidos. La demanda busca la eliminación de las acusaciones y la compensación financiera de OpenAI en montos no revelados.
Demanda contra IA
El caso judicial parece ser el primero de su tipo, aunque es poco probable que sea el último, ya que las quejas sobre información falsa generada por ChatGPT y otros chatbots crecen a diario. Como los modelos no pueden diferenciar la verdad de la ficción, algunos tienden a crear situaciones inexistentes cuando no tienen información precisa para proporcionar.
Es bastante común que las IA inventen fechas, creen hechos e incluso generen números aleatorios como si fueran ciertos. El problema es cuando esto va más allá de la mera molestia del usuario e invade cuestiones de reputación y honor.
En abril, la tecnología OpenAI fabricó una acusación de acoso sexual contra un profesor de la Universidad George Washington, también en EE. UU. En otro caso, un abogado también habría utilizado el chatbot para crear argumentos que no sabía que eran falsos contra una empresa.
OpenAI seguirá teniendo problemas
OpenAI tiene advertencias en la página de inicio y mensajes de interacción de ChatGPT sobre información incorrecta. El problema es que el propio marketing dice que el servicio se puede utilizar para obtener respuestas, hacer preguntas o aprender algo nuevo.
Ante este caso sin precedentes, es probable que el sistema legal estadounidense adopte una postura orientadora para otras situaciones similares. Las leyes estadounidenses ya prevén sanciones para los casos de difamación, pero aplicadas entre seres humanos.
Ahora no hay una persona detrás del contenido, sino una IA generativa con escritura humanizada. El tema es complejo porque el chatbot no solo reproduce información, sino que ha sido entrenado con datos producidos por personas en internet.
Las empresas de Internet están protegidas frente a actuaciones que impliquen la producción de contenidos por parte de terceros o alojados en sus plataformas. La sección 230 de la ley de los EE. UU. existe para evitar que las redes sociales o las grandes tecnológicas sean castigadas de manera conjunta y solidaria por delitos cometidos por otras personas.
OpenAI aún tiene que comentar oficialmente sobre el caso. Es probable que la empresa de Sam Altman solo lo haga en los registros, cuando sea citada para responder a las denuncias.
Lea el artículo sobre Canaltech.
Tendencia en Canaltech:
- ¿Para qué sirve el agua con gas que acompaña al café?
- ¿Sería el Razr 40 el teléfono plegable que necesitaba el mercado?
- Spiderverso | ¿Quién es Scarlet Spider y cuáles son sus poderes?
- WhatsApp gana canales al estilo Telegram para comunicación masiva
- Teléfono de Unihertz tiene proyector incorporado y batería de 15.500 mAh
- GM detendrá la producción de Onix en junio; ver por qué
