Microsoft ha actualizado los Términos de Uso de Copilot, indicando que el modelo de lenguaje de IA está diseñado solo para uso de entretenimiento y que los usuarios no deben confiar en él para consejos importantes. La advertencia señala que "Copilot es solo para entretenimiento. Puede cometer errores y puede no funcionar como se espera". A pesar de esta declaración, la empresa promueve Copilot para usos empresariales e lo ha integrado en Windows 11.
Otras IA de modelos de lenguaje también incluyen advertencias similares. Por ejemplo, xAI menciona que la inteligencia artificial es probabilística y puede producir resultados que contengan "alucinaciones" o ser ofensivos. Aunque estas advertencias pueden parecer de sentido común para quienes conocen el funcionamiento de las IA, muchos usuarios las toman como verdades absolutas. Se han reportado incidentes en Amazon donde fallos en servicios fueron atribuidos a un bot de codificación de IA que actuó sin supervisión. Además, cambios asistidos por IA han causado problemas en el sitio web de Amazon, lo que llevó a convocar a ingenieros senior para resolver la situación.
A pesar de que la IA generativa puede aumentar la productividad, sigue siendo una herramienta que no ofrece responsabilidad por errores. Los usuarios deben dudar de sus resultados y verificar la información. Sin embargo, la tendencia humana a favorecer los resultados de las máquinas puede intensificarse con la IA, ya que puede generar respuestas que parecen plausibles a simple vista.
Las empresas generalmente añaden estas advertencias para protegerse de demandas, pero a medida que las compañías de tecnología de IA promueven sus servicios como soluciones de productividad, podrían estar minimizando los riesgos asociados a su uso para atraer a los clientes y recuperar las inversiones realizadas.
¿Cómo pueden los usuarios equilibrar la confianza en la inteligencia artificial con la necesidad de verificación crítica de la información generada?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN Tom's Hardware EL no especificado. Leer original
https://www.tomshardware.com/tech-industry/artificial-intelligence/microsoft-says-copilot-is-for-entertainment-purposes-only-not-serious-use-firm-pushing-ai-hard-to-consumers-tells-users-not-to-rely-on-it-for-important-advice