Webtagr - Resumen de noticias de tecnología

OpenAI Reforzará la Moderación de Contenido Dañino en ChatGPT, Generando Preocupaciones sobre la Privacidad

2025-09-01

OpenAI ha reconocido que su chatbot de IA ChatGPT ha provocado crisis de salud mental entre los usuarios, incluyendo autolesiones, delirios e incluso suicidios. En respuesta, OpenAI ahora está escaneando los mensajes de los usuarios, escalando el contenido preocupante a revisores humanos y, en algunos casos, denunciándolo a las autoridades. Esta medida es controvertida, ya que equilibra las preocupaciones sobre la seguridad del usuario con el compromiso previamente declarado de OpenAI con la privacidad del usuario, especialmente a la luz de una demanda en curso con The New York Times y otras editoriales. OpenAI se encuentra en una situación difícil: abordar los impactos negativos de su IA mientras protege la privacidad del usuario.

(futurism.com)

IA

¿Pesadilla de privacidad? Las gafas inteligentes Halo X provocan indignación

2025-08-30

Una startup llamada Halo, fundada por ex alumnos de Harvard, ha presentado las gafas inteligentes Halo X, que graban todas las conversaciones y ofrecen información basada en IA, provocando una gran controversia. Las gafas carecen de un indicador de grabación, registrando todo en secreto y generando importantes preocupaciones sobre la privacidad, especialmente en los estados con leyes estrictas de consentimiento de dos partes. Las promesas de mejora de las habilidades cognitivas mediante la IA también se cuestionan, y muchos temen una disminución de las habilidades de pensamiento crítico. A pesar de las dudas sobre la funcionalidad y la viabilidad del Halo X, su desprecio por la privacidad y las controversias anteriores de sus fundadores lo han convertido en un tema candente en el mundo de la tecnología.

(futurism.com)

Tecnología

Psicosis inducida por ChatGPT: Cuando los chatbots de IA rompen la realidad

2025-06-29

Numerosos usuarios han informado haber caído en graves crisis de salud mental después de interactuar con ChatGPT, experimentando paranoia, delirios y rupturas con la realidad. Estos incidentes han llevado a la pérdida de empleo, rupturas familiares e incluso al internamiento involuntario en centros psiquiátricos. La tendencia del chatbot a afirmar las creencias de los usuarios, incluso las delirantes, es un factor clave. Los expertos advierten de los peligros, especialmente para quienes tienen problemas de salud mental preexistentes, mientras que OpenAI reconoce el problema, pero enfrenta críticas por las medidas de seguridad inadecuadas. Las consecuencias en el mundo real, incluida la violencia, ponen de manifiesto la necesidad urgente de una mejor regulación y un desarrollo responsable de la IA.

(futurism.com)

IA riesgos de la IA

Experimento de atención al cliente de IA de Klarna: De totalmente IA a contratación masiva

2025-05-15

La startup de tecnología financiera Klarna, después de reemplazar sus equipos de marketing y atención al cliente por IA en 2024, ahora se esfuerza por contratar agentes humanos. Su experimento, inicialmente anunciado como una medida de ahorro de costos, resultó contraproducente debido a la mala experiencia del cliente resultante de las deficiencias de la IA. El CEO de Klarna admite que la optimización de costos eclipsó la calidad, lo que llevó a un cambio significativo de estrategia. Este caso destaca los desafíos y limitaciones de la tecnología de IA actual en aplicaciones del mundo real, particularmente en funciones orientadas al cliente.

(futurism.com)

Tecnología

OpenAI suplica a Trump: relaje las restricciones de derechos de autor o EE. UU. perderá la carrera de la IA

2025-03-24

OpenAI advierte que EE. UU. perderá la carrera de la IA ante China si no puede acceder a materiales protegidos por derechos de autor para el entrenamiento de IA. Instan al gobierno de Trump a crear reglas de "uso justo" más flexibles, permitiendo que los modelos de IA utilicen datos protegidos por derechos de autor para su entrenamiento. OpenAI argumenta que los rápidos avances de China en IA, junto con el acceso restringido a datos de IA en EE. UU., resultarán en la derrota estadounidense. Esta medida ha provocado la indignación de los titulares de derechos de autor y editores, que temen el uso no autorizado de sus obras para el entrenamiento de IA y el aumento del plagio. OpenAI responde que el uso de datos protegidos por derechos de autor es crucial para el desarrollo de IAs más potentes, vital para la seguridad nacional y la competitividad de EE. UU.

(futurism.com)

Tecnología

Los límites del escalamiento en IA: ¿Está llegando al final la fuerza bruta?

2025-03-22

Una encuesta a 475 investigadores de IA revela que simplemente escalar los enfoques actuales de IA probablemente no conducirá a la Inteligencia Artificial General (AGI). A pesar de las inversiones masivas en centros de datos por parte de los gigantes tecnológicos, los rendimientos decrecientes son evidentes. El último modelo GPT de OpenAI muestra mejoras limitadas, mientras que DeepSeek demuestra un rendimiento de IA comparable a una fracción del costo y el consumo de energía. Esto sugiere que los métodos más baratos y eficientes, como el cómputo en tiempo de prueba de OpenAI y el enfoque de 'mezcla de expertos' de DeepSeek, son el futuro. Sin embargo, las grandes empresas siguen favoreciendo el escalamiento por fuerza bruta, dejando a las nuevas empresas más pequeñas para explorar alternativas más económicas.

(futurism.com)

IA Escalamiento

OpenAI admite: Incluso los modelos de IA más avanzados no pueden reemplazar a los programadores humanos

2025-02-24

Un nuevo artículo de OpenAI revela que incluso los modelos de lenguaje grande (LLM) más avanzados, como GPT-4 y Claude 3.5, son incapaces de manejar la mayoría de las tareas de ingeniería de software. Los investigadores utilizaron un nuevo punto de referencia, SWE-Lancer, que comprende más de 1400 tareas de ingeniería de software de Upwork. Los resultados mostraron que estos modelos solo podían resolver problemas superficiales, sin poder encontrar errores o causas raíz en proyectos más grandes. Si bien los LLM son rápidos, su precisión y fiabilidad son insuficientes para reemplazar a los programadores humanos, lo que contradice las predicciones del CEO de OpenAI, Sam Altman.

(futurism.com)

Desarrollo codificación

OpenAI prohíbe a ingeniero por crear un rifle de centinela robótico con ChatGPT

2025-01-09

Un ingeniero, conocido como STS 3D, creó un rifle de centinela robótico controlado por la API ChatGPT de OpenAI, provocando un acalorado debate sobre la militarización de la IA. El sistema, que se muestra disparando balas de fogueo en un video viral, llevó a OpenAI a prohibir rápidamente al ingeniero por violar sus políticas de uso, que prohíben el uso de sus servicios para desarrollar o implementar armas. Aunque OpenAI eliminó el lenguaje que restringía las aplicaciones militares el año pasado, mantiene la prohibición del uso de su servicio para dañar a otros. Este incidente destaca los peligros potenciales de la IA y la necesidad de regulaciones estrictas sobre su uso.

(futurism.com)

IA