La interacción cada vez más frecuente entre los seres humanos y los chatbots ha abierto un intenso debate sobre la naturaleza de las expresiones generadas por estas tecnologías. A medida que los chatbots avanzan en sus capacidades conversacionales, también crece la tendencia a verlos como seres pensantes y expresivos, un fenómeno conocido como antropomorfización. Sin embargo, esta percepción puede llevar a errores significativos, especialmente en el ámbito legal. En los tribunales, es posible que se pase por alto un hecho crucial: las palabras producidas por los chatbots son, en última instancia, el resultado de decisiones humanas tomadas por desarrolladores y usuarios.
Recientemente, la Electronic Frontier Foundation (EFF) y el Centro para la Democracia y la Tecnología (CDT) presentaron un escrito de amicus curiae en el caso Garcia v. Character Technologies. Este documento aborda los aspectos de la libertad de expresión relacionados con las salidas generadas por los chatbots y plantea una preocupación central. Si se niega la protección de la Primera Enmienda a estas salidas, el gobierno podría tener la capacidad de censurar chatbots que critiquen a la administración u ofrezcan puntos de vista no alineados con su posición.
El escrito subraya que las respuestas de los chatbots no son meramente automáticas, sino reflejos de decisiones humanas en varios niveles. Por ejemplo, durante el proceso de aprendizaje por refuerzo, los desarrolladores pueden guiar a los humanos para que proporcionen retroalimentación positiva a respuestas que coincidan con el consenso científico sobre temas como el cambio climático. Así, tanto los inputs como las instrucciones de los usuarios influyen en el resultado de las interacciones.
Aparte de la libertad de expresión, se destaca el derecho de los usuarios a recibir información. Este principio, protegido incluso cuando el emisor no cuenta con un derecho propio para expresarse, podría verse comprometido si las salidas de los chatbots no fuesen protegidas adecuadamente.
Si bien es esencial regular el uso de chatbots y considerar los posibles daños que puedan causar, dicha regulación debe diseñarse de manera que no restrinja indebidamente el derecho a expresarse o recibir información mediante estos medios. El escrito presentado por la EFF y el CDT busca aportar claridad al tribunal en el caso en cuestión, especialmente después de que el juez decidiera no remitir la cuestión a apelación en este momento.
