IA Agencial: Conveniência com Custo de Privacidade?

2025-03-08
IA Agencial: Conveniência com Custo de Privacidade?

A presidente da Signal, Meredith Whittaker, alertou na SXSW que o crescente campo da IA agencial, embora ofereça conveniência, apresenta riscos significativos de privacidade. Agentes de IA, projetados para lidar com tarefas como reserva de ingressos e envio de mensagens, exigem acesso ao navegador do usuário, informações do cartão de crédito, calendário e aplicativos de mensagens — essencialmente concedendo a eles permissões de nível de raiz. Isso expõe os dados do usuário a servidores em nuvem, obscurecendo as linhas entre as camadas de aplicativo e SO. Whittaker argumentou que essa abordagem de "colocar seu cérebro em um frasco" enfraquece a segurança e a privacidade, ameaçando até mesmo aplicativos focados em privacidade como o Signal. Ela instou a indústria a abordar os perigos potenciais da IA agencial, alertando contra o sacrifício da privacidade em prol da conveniência.

Leia mais
Tecnologia IA agencial

Taara Lightbridge: Conectando áreas remotas com a velocidade da fibra óptica

2025-03-17
Taara Lightbridge: Conectando áreas remotas com a velocidade da fibra óptica

A Taara está resolvendo o problema da crescente demanda global por dados, oferecendo uma solução para o alto custo e a dificuldade de implantação de cabos de fibra óptica tradicionais. Seu sistema Lightbridge usa feixes estreitos de luz para transmitir dados sem fio a velocidades de até 20 Gbps em distâncias de até 20 quilômetros. A instalação leva apenas algumas horas, eliminando a necessidade de escavação ou instalação de cabos. Essa tecnologia leva acesso à internet de alta velocidade para áreas anteriormente desatendidas, incluindo cidades densas, através de corpos d'água e em terrenos acidentados, desbloqueando benefícios econômicos, educacionais e sociais.

Leia mais

Sistema Sweep da Toyota: Uma Mudança de Jogo para Reciclagem de Baterias de Veículos Elétricos

2025-08-28
Sistema Sweep da Toyota: Uma Mudança de Jogo para Reciclagem de Baterias de Veículos Elétricos

Abordando o desafio global da reciclagem de baterias de veículos elétricos, a Toyota desenvolveu o Sistema de Armazenamento de Energia Sweep. Este sistema coleta baterias usadas de veículos elétricos de vários tipos e níveis de degradação, conectando-as à rede elétrica. A gestão de energia sofisticada prioriza baterias saudáveis ​​enquanto ignora as de baixo desempenho, garantindo a utilização eficiente de energia. Testado em campo na fábrica da Mazda em Hiroshima e conectado à rede elétrica da Chubu Electric Power, o sistema possui uma potência máxima de 485 kW e uma capacidade de armazenamento de 1260 kWh. O Sweep não apenas aprimora a reciclagem de baterias, mas também contribui significativamente para as metas de neutralidade de carbono.

Leia mais
Tecnologia

Um ano no desenvolvimento de software empresarial: observações das trincheiras

2025-08-18

Após uma década em startups, o autor reflete sobre seu primeiro ano em uma grande empresa, $ENTERPRISE. A postagem descreve com humor as diferenças gritantes: comunicação ineficiente, desperdício massivo de recursos, competência inconsistente de colegas de trabalho e a onipresente, muitas vezes fabricada, sensação de urgência. No entanto, o autor também reconhece os aspectos positivos, como uma forte comunidade de engenharia, oportunidades de desenvolvimento de carreira e a satisfação de trabalhar em software usado por milhões. Um relato franco e perspicaz das realidades do desenvolvimento de software em larga escala.

Leia mais
Desenvolvimento

Paradoxo da Transparência: Como a Abertura Pode Ser Contraproducente e Reduzir a Confiança Pública na Ciência

2025-08-03
Paradoxo da Transparência: Como a Abertura Pode Ser Contraproducente e Reduzir a Confiança Pública na Ciência

Um estudo revela o 'paradoxo da transparência': embora a transparência na ciência promova a confiança, revelar más notícias (como conflitos de interesse ou experimentos fracassados) pode reduzi-la. A causa raiz, argumenta o pesquisador, é a visão excessivamente idealizada do público sobre a ciência. A solução não é esconder más notícias, mas melhorar a educação e a comunicação científica para apresentar uma imagem mais realista — a ciência não é perfeita, e os cientistas cometem erros. Isso promove expectativas mais realistas e, por fim, maior confiança.

Leia mais

Juno em Júpiter: Descobertas que Desafiam a Formação do Sistema Solar

2025-08-25
Juno em Júpiter: Descobertas que Desafiam a Formação do Sistema Solar

A sonda Juno da NASA, superando expectativas, continua a desvendar os mistérios de Júpiter. Muito além de sua vida útil planejada, a Juno revelou um Júpiter diferente de qualquer outro imaginado anteriormente: tempestades geométricas bizarras, um núcleo surpreendentemente leve e fofo, e uma distribuição incomum de amônia em sua atmosfera. As descobertas da Juno não apenas remodelam nossa compreensão de Júpiter, mas também desafiam as teorias existentes sobre a formação do sistema solar. As principais descobertas incluem um núcleo que não é nem sólido nem gasoso, mas uma mistura difusa de ambos, e a descoberta de "chuva de gelo de amônia" na atmosfera de Júpiter. Embora sua missão esteja chegando ao fim, o legado de Juno é indelével.

Leia mais
Tecnologia

Avanço em Materiais de Alta Densidade de Energia: Novos Alótropos de Nitrogênio

2025-08-04
Avanço em Materiais de Alta Densidade de Energia: Novos Alótropos de Nitrogênio

Nos últimos anos, houve um progresso notável na química de polinitrogênio. Os pesquisadores sintetizaram várias novas estruturas moleculares de nitrogênio, como anéis de hexazina e moléculas de nitrogênio em gaiola, usando alta pressão e outros métodos. Essas moléculas possuem densidades de energia extremamente altas, prometendo se tornar materiais de alta energia de próxima geração. No entanto, a síntese e a estabilidade dos compostos de polinitrogênio permanecem desafios significativos, com fatores como efeitos de tunelamento quântico influenciando profundamente suas propriedades. Esta pesquisa não apenas expande nossa compreensão do nitrogênio, mas também abre novas vias para o desenvolvimento de novos materiais de alta energia.

Leia mais

IA Generativa no Ensino Superior: A Voz dos Alunos

2025-09-02
IA Generativa no Ensino Superior: A Voz dos Alunos

Uma pesquisa com 1047 estudantes revela o uso generalizado de IA generativa em trabalhos de curso, variando de brainstorming a estudos. Embora alguns a usem para tarefas ou redações, muitos a utilizam como uma ferramenta de aprendizado. Surpreendentemente, poucos estudantes acham que a IA diminui o valor da faculdade; quase todos querem respostas proativas, não punitivas, às preocupações com a integridade acadêmica. Os estudantes preferem educação em ética de IA e diretrizes claras de uso a softwares de detecção de IA ou restrições de tecnologia. A pesquisa destaca o impacto complexo e variado da IA generativa na aprendizagem e no pensamento crítico dos estudantes, apresentando tanto oportunidades quanto desafios.

Leia mais
Tecnologia

Gerando Grandes Ideias Invertendo Bits em Grandes Sistemas

2025-08-03
Gerando Grandes Ideias Invertendo Bits em Grandes Sistemas

O autor argumenta que a maioria das pessoas carece de pensamento sistêmico, o que dificulta a inovação. O artigo propõe um método de inovação 'inverter um bit': escolha um grande sistema (por exemplo, educação, saúde), inverta uma suposição central dentro dele e explore as consequências. Por exemplo, e se os alunos notassem os professores em vez do contrário? Essa abordagem revela estruturas de sistemas ocultos, identifica novos pontos de alavancagem e gera ideias não convencionais. O autor encoraja os leitores a verem o mundo como um depurador de sistemas, encontrando e explorando pontos arbitrários esperando para serem 'invertidos'.

Leia mais

Adeus, Cron Jobs Espalhados: O Planejador de Tarefas Centralizado do Heartbeat

2025-08-01
Adeus, Cron Jobs Espalhados: O Planejador de Tarefas Centralizado do Heartbeat

O Heartbeat usava vários Cron Jobs para gerenciar tarefas agendadas, resultando em altos custos de manutenção e erros frequentes. Este artigo descreve como eles construíram um planejador de tarefas centralizado e baseado em banco de dados, usando uma única tabela de banco de dados `ScheduledTasks` e um único Cron Job para gerenciar todas as tarefas agendadas. Aproveitando o AWS SQS para processamento assíncrono, o sistema garante a execução confiável de tarefas, mecanismos de repetição e monitoramento robusto. Essa abordagem aborda problemas como caos no gerenciamento de tarefas, tratamento de erros difícil e simplifica a adição de novas tarefas agendadas.

Leia mais
Desenvolvimento agendamento de tarefas

Estratégias de Implantação do Kubernetes para Pequenas Empresas na Nuvem Hetzner: k3s Assume a Liderança

2025-04-05
Estratégias de Implantação do Kubernetes para Pequenas Empresas na Nuvem Hetzner: k3s Assume a Liderança

Este artigo compara quatro opções de implantação do Kubernetes na nuvem Hetzner: k3s, MicroK8s, Minikube e Docker Swarm. Para pequenas empresas com recursos limitados, o k3s se destaca devido à sua natureza leve (binário de 40 MB, linha de base de 512 MB de RAM), suporte de alta disponibilidade (etcd embutido) e implantação fácil (instalação de um único comando). Benchmarks de desempenho mostram que os clusters k3s alcançam desempenho e estabilidade de nível de produção na Hetzner, superando outras opções em custo e escalabilidade. Embora o Docker Swarm ofereça simplicidade, ele carece dos recursos e da escalabilidade do k3s. Para implantações que excedem 100 nós, uma abordagem híbrida combinando pools de trabalhadores k3s com o serviço Kubernetes gerenciado da Hetzner é recomendado.

Leia mais
Desenvolvimento Nuvem Hetzner

MCP: O Protocolo que Está Acidentalmente Construindo um Ecossistema Universal de Plugins

2025-08-10
MCP: O Protocolo que Está Acidentalmente Construindo um Ecossistema Universal de Plugins

Este artigo explora o potencial inesperado do MCP (Protocolo de Contexto de Modelo), argumentando que é muito mais do que apenas um aprimorador de IA. Traçando um paralelo com a versatilidade da USB-C – conectando tudo, de telefones a torradeiras – o autor sugere que o potencial do MCP se estende além da IA, atuando como uma maneira padronizada de conectar diversas fontes de dados e ferramentas. Seu aplicativo, APM, utiliza servidores MCP para extensibilidade, oferecendo recursos como verificação ortográfica, gerenciamento de tarefas e até mesmo respostas de agente de IA semelhantes ao Warcraft 3. Em última análise, o artigo postula a ascensão do MCP como um poderoso e imprevisto ecossistema de plugins universal.

Leia mais
Desenvolvimento

Tripulação totalmente feminina faz história em voo espacial estrelado da Blue Origin

2025-04-14
Tripulação totalmente feminina faz história em voo espacial estrelado da Blue Origin

A missão NS-31 da Blue Origin chamou a atenção com sua tripulação totalmente feminina, incluindo as celebridades Katy Perry e Gayle King, marcando o primeiro voo espacial totalmente feminino desde 1963. A viagem suborbital de dez minutos e vinte e um segundos a bordo do foguete New Shepard permitiu que os passageiros experimentassem a gravidade zero e vistas deslumbrantes da Terra. O voo destaca não apenas os avanços no turismo espacial, mas também celebra um marco significativo para as mulheres em STEM e na busca mais ampla da exploração espacial. O sucesso da missão destaca o compromisso contínuo da Blue Origin em superar limites e promover a inclusão no reino das viagens espaciais.

Leia mais

OpenBSD adiciona suporte para Raspberry Pi 5, mas com problemas conhecidos

2025-09-02

Uma atualização recente do OpenBSD adiciona suporte para RAMDISK no Raspberry Pi 5 Model B. No entanto, existem problemas conhecidos: inicialização de HATs de armazenamento PCIe não funciona (devido à falta de suporte U-Boot), o WiFi nas placas "d0" do Raspberry Pi 5 Model B está quebrado e o cooler ativo (ventoinha) não funciona devido à falta de drivers pwm/clock (trabalho em andamento).

Leia mais
Desenvolvimento

Halt and Catch Fire: Um Currículo de História da Tecnologia

2025-08-25

Este site oferece um currículo de história da tecnologia de 15 aulas baseado na série de TV Halt and Catch Fire (2014-2017). Projetado para pequenos grupos autoformados, o currículo usa o programa para explorar o cenário tecnológico das décadas de 1980 e 1990. Cada aula inclui material de visualização prévia, RFCs e emuladores para reflexão, prompts de discussão, leituras, resumos de episódios e avisos de conteúdo. Perfeito para um 'clube de observação' de história da tecnologia.

Leia mais
Tecnologia Currículo Online

DeepSeek-R1: Um Modelo de IA Censurado?

2025-01-28
DeepSeek-R1: Um Modelo de IA Censurado?

DeepSeek-R1, um modelo de IA de código aberto de grande sucesso, gerou preocupações devido à censura imposta pela empresa chinesa por causa das políticas do PCC. Uma avaliação da Promptfoo revelou que o DeepSeek-R1 censurou 85% de 1.156 prompts sobre tópicos sensíveis, como independência de Taiwan e a Revolução Cultural. No entanto, essa censura mostrou-se surpreendentemente frágil e facilmente contornável usando técnicas simples, como alterar o contexto ou enquadrar perguntas em narrativas ficcionais. Esta pesquisa destaca a vulnerabilidade da censura em modelos de IA chineses e sublinha as implicações mais amplas da censura e da segurança de dados no desenvolvimento global da IA.

Leia mais

Otimização de Cache GPT: Um Estudo de Caso do Mundo Real

2025-04-20
Otimização de Cache GPT: Um Estudo de Caso do Mundo Real

Um usuário na Coréia do Sul encontrou falhas persistentes na geração de PDFs, loops de estouro de tokens e problemas de redundância de cache durante simulações GPT de múltiplas sessões. Em vez de desistir, ele meticulosamente mediu, analisou e implementou uma solução de otimização envolvendo logs de comportamento do sistema, circuitos de resposta de gatilho e métricas quantificáveis. A otimização reduziu significativamente o uso de tokens, implementou uma rotina semelhante à memória por meio de lógica de circuito de gatilho personalizada e automatizou a exclusão de respostas de sistema com falha. Este relatório, baseado em dados de sessão de usuário real, foi referenciado em correspondência oficial com a OpenAI.

Leia mais

A Crise do Lixo Eletrônico na Índia: Um Conto de Duas Indústrias de Reciclagem

2025-09-01
A Crise do Lixo Eletrônico na Índia: Um Conto de Duas Indústrias de Reciclagem

O setor de eletrônicos em expansão na Índia impulsionou uma indústria de reciclagem de lixo eletrônico de US$ 1,5 bilhão, mas 95% de sua força de trabalho é composta por trabalhadores informais que enfrentam condições perigosas e tóxicas por salários baixos. O artigo destaca Khatta, um depósito de lixo em Delhi onde opera uma complexa rede informal, controlada por famílias poderosas como os Maliks. Embora empresas formais como a Recyclekaro mostrem uma abordagem moderna e regulamentada, o setor informal persiste devido à sua rentabilidade e à resistência de grandes empresas de tecnologia que contestam novas regulamentações. A história destaca o contraste marcante entre as indústrias formais e informais de reciclagem de lixo eletrônico na Índia, destacando as desigualdades ambientais e sociais em jogo.

Leia mais
Tecnologia crise ambiental

arXivLabs: Experimentos com recursos impulsionados pela comunidade

2025-02-01
arXivLabs: Experimentos com recursos impulsionados pela comunidade

arXivLabs é uma estrutura que permite a colaboradores desenvolverem e compartilharem novos recursos do arXiv diretamente no site. Participantes, tanto indivíduos quanto organizações, abraçam os valores do arXiv de abertura, comunidade, excelência e privacidade de dados do usuário. O arXiv está comprometido com esses valores e apenas se associa a aqueles que os compartilham. Tem uma ideia para um projeto que beneficiará a comunidade arXiv? Saiba mais sobre o arXivLabs.

Leia mais

TMSU: Um sistema de arquivos virtual baseado em tags para escapar do pesadelo do sistema de arquivos hierárquico

2025-01-23

TMSU é uma ferramenta para marcar seus arquivos, oferecendo uma interface simples de linha de comando para aplicar tags e um sistema de arquivos virtual que fornece uma visão baseada em tags de seus arquivos a partir de qualquer programa. Ele não modifica seus arquivos; em vez disso, mantém seu próprio banco de dados e monta uma visão baseada em tags. Você pode marcar arquivos, consultá-los usando operadores lógicos (e, ou, não) e montar um sistema de arquivos virtual para acesso de outros aplicativos. Este VFS permite a gerência de tags criando e excluindo diretórios.

Leia mais
Desenvolvimento sistema de arquivos virtual

Índice de Lançamentos de Jogos Amiga 2024: Jogos Retro Prosperam

2024-12-31
Índice de Lançamentos de Jogos Amiga 2024: Jogos Retro Prosperam

O site Lemon Amiga lançou seu índice de 2024 de lançamentos de jogos Amiga, exibindo uma variedade de novos títulos abrangendo vários gêneros, incluindo plataformas, quebra-cabeças e jogos de tiro. O índice apresenta tanto ports fiéis de jogos de arcade clássicos quanto criações originais, destacando a vibrante comunidade de jogos Amiga. Ele também inclui protótipos de jogos e títulos em desenvolvimento, demonstrando a paixão duradoura pela criação de jogos Amiga.

Leia mais

Brincadeira de Natal do cofundador do WordPress causa indignação na comunidade

2024-12-27
Brincadeira de Natal do cofundador do WordPress causa indignação na comunidade

Na véspera de Natal, Matt Mullenweg, cofundador do WordPress, gerou controvérsia no Reddit ao pedir sugestões sobre que "drama" ele deveria criar em 2025 para o WordPress. A publicação, sugerindo mudanças como alterar as convenções de nomenclatura de lançamentos ou design, foi recebida com forte reação negativa da comunidade. Muitos acharam a publicação desrespeitosa e pediram que ele se concentrasse em resolver problemas legais em andamento e restaurar a estabilidade da comunidade. Mullenweg respondeu que estava apenas tentando provocar a criatividade e deu dicas sobre os desenvolvimentos futuros do Gutenberg. A controvérsia destaca as preocupações dentro da comunidade WordPress sobre a liderança e a direção futura da plataforma.

Leia mais
Desenvolvimento controvérsia da comunidade

Noites Quentes: O Assassino Silencioso do Crescimento das Plantas

2025-08-23

Este artigo explora o impacto das noites quentes no crescimento das plantas. As plantas, assim como os animais, respiram, queimando açúcares para obter energia. Quando os açúcares produzidos pela fotossíntese são insuficientes para atender às demandas da respiração, a planta acabará morrendo. Noites quentes aceleram a respiração, fazendo com que as plantas consumam mais energia, levando em última análise a um crescimento deficiente e até mesmo à morte. Isso é particularmente prejudicial para plantas de climas frios. O artigo usa tomates como exemplo para ilustrar os efeitos negativos das noites quentes no crescimento das plantas e explica as diferenças de eficiência dos vários tipos de fotossíntese (C3, C4, CAM) em diferentes temperaturas.

Leia mais
Diversos fotossíntese

SingleFile: Salve páginas da web completas como arquivos HTML únicos

2024-12-21
SingleFile: Salve páginas da web completas como arquivos HTML únicos

SingleFile é uma poderosa extensão da web e ferramenta de linha de comando que salva páginas da web completas como um único arquivo HTML. Compatível com Chrome, Firefox, Edge e muito mais, oferece salvamento de páginas conveniente, processamento de várias guias, recursos de anotação e até permite o upload de páginas salvas para o Google Drive ou GitHub. Personalize atalhos e configurações para ajustá-lo às suas necessidades.

Leia mais
Desenvolvimento salvar página web

Bebidas congeladas: alerta para pais de crianças pequenas

2025-03-12
Bebidas congeladas: alerta para pais de crianças pequenas

Uma nova pesquisa sugere que crianças menores de oito anos devem evitar bebidas congeladas devido ao potencial de síndrome de intoxicação por glicerol. As bebidas geladas e coloridas contêm altos níveis de glicerol, um substituto do açúcar que impede o congelamento. Isso pode levar a sintomas como perda de consciência, baixo nível de açúcar no sangue, acidose láctica e hipocalemia. Embora o glicerol esteja presente em alguns alimentos, a concentração em bebidas congeladas é significativamente maior. Um estudo examinou 21 crianças (de 2 a 7 anos) que apresentaram sintomas como os descritos acima após consumir bebidas congeladas, necessitando de tratamento de emergência. Embora todas tenham se recuperado, os pesquisadores pedem cautela, principalmente porque há falta de transparência em relação aos níveis de glicerol em bebidas congeladas, tornando difícil determinar uma dose segura. A Agência de Padrões Alimentares já recomenda evitar bebidas congeladas para crianças menores de quatro anos e limita o consumo para crianças de cinco a dez anos. Esta nova pesquisa reforça a necessidade de os pais evitarem dar bebidas congeladas a crianças menores de oito anos.

Leia mais
Diversos glicerol

Ícones de aplicativos de utilitário do macOS Tahoe: canários mortos

2025-08-26
Ícones de aplicativos de utilitário do macOS Tahoe: canários mortos

Os novos ícones de aplicativos de utilitário no macOS 26 Tahoe Beta 7 estão recebendo muitas críticas. O autor argumenta que os novos ícones, todos usando um motivo de chave de fenda preguiçoso, são objetivamente terríveis. Apenas uma pequena parte do ícone representa a função do aplicativo, o restante sendo dominado por uma chave de fenda e um parafuso mal projetados. O design é criticado por sua falta de detalhes e execução ruim, exemplificado pelo ícone do Utilitário de Disco sendo simplesmente um logotipo da Apple. Isso é visto como um canário na mina de carvão, indicando problemas mais profundos com a sensibilidade de design da Apple.

Leia mais

Mergulho profundo em GANs: A matemática por trás das Redes Adversariais Generativas

2025-08-28

Este post mergulha nos fundamentos matemáticos das Redes Adversariais Generativas (GANs). Começando com os conceitos básicos, o autor explica meticulosamente as funções de perda do gerador e do discriminador, derivando condições para o discriminador e gerador ótimos. Usando ferramentas matemáticas como entropia cruzada binária e divergência JS, o processo adversarial entre o gerador e o discriminador durante o treinamento GAN é claramente ilustrado. O objetivo final é tornar a distribuição de dados gerados o mais próxima possível da de dados reais. O post também apresenta brevemente os métodos de treinamento GAN e destaca diferenças sutis nas fórmulas em comparação com o artigo original de Goodfellow.

Leia mais

Lado oculto da Lua pode ser mais seco do que se pensava

2025-04-12
Lado oculto da Lua pode ser mais seco do que se pensava

Cientistas chineses relataram que amostras de solo e rocha lunares coletadas pela missão Chang'e 6 sugerem que o lado oculto da Lua pode ser mais seco do que o lado voltado para a Terra. A análise de 578 partículas da bacia Polo Sul-Aitken estimou uma abundância de água inferior a 1,5 microgramas por grama, menos do que em amostras do lado próximo da Lua. Embora sejam necessárias mais amostras, a secura pode estar relacionada à formação da bacia ou à distribuição vertical da água. Essa descoberta provavelmente não afetará os planos da NASA de pousar astronautas perto do polo sul lunar, onde se espera encontrar gelo abundante para missões futuras.

Leia mais

Redução de 95% nos custos de largura de banda da AWS: a história do dm-cache

2025-09-13
Redução de 95% nos custos de largura de banda da AWS: a história do dm-cache

A Upsun reduziu drasticamente seus custos de largura de banda da AWS aproveitando o armazenamento SSD local subutilizado em suas instâncias. Usando o dm-cache do Linux, eles implementaram um cache de leitura para seu armazenamento em rede baseado em Ceph. Ao armazenar em cache blocos de dados acessados com frequência localmente, eles minimizaram o tráfego de rede inter-AZ dispendioso. O uso de uma política de gravação direta garantiu a integridade dos dados, resultando em uma redução de 95% nos custos de largura de banda, uma melhoria de 30x no IOPS e ganhos significativos de desempenho para seus aplicativos de comércio eletrônico. A chave foi explorar a localidade de referência inerente aos padrões de E/S do aplicativo.

Leia mais

Falhas de segurança do GPT-5 expostas: Quebrado em menos de 24 horas

2025-08-09
Falhas de segurança do GPT-5 expostas: Quebrado em menos de 24 horas

Duas empresas, NeuralTrust e SPLX, testaram independentemente o recém-lançado GPT-5, revelando vulnerabilidades significativas de segurança. A NeuralTrust conseguiu quebrar a segurança do GPT-5 usando um ataque de 'storytelling', guiando-o para gerar instruções para criar um coquetel molotov. A SPLX demonstrou que ataques de ofuscação simples poderiam gerar instruções para a fabricação de bombas. As descobertas destacam a segurança inadequada do GPT-5, tornando seu modelo bruto quase inutilizável para empresas, mesmo com a camada de prompt interna da OpenAI. Em comparação com o GPT-4, o GPT-5 apresenta uma queda significativa na robustez de segurança, exigindo extrema cautela.

Leia mais
IA
1 2 148 149 150 152 154 155 156 595 596