Constitutional AI e RLAIF: alinhamento com menos humano no loop
Como Constitutional AI e RLAIF trocam o rotulador humano por um modelo que se autocritica segundo princípios explícitos, e o que isso desloca de risco.
◆ Categoria
Cybersecurity
5 ensaios sobre Cybersecurity
Ver todos →Interpretabilidade mecanicista: abrindo a caixa-preta dos LLMs
O que é interpretabilidade mecanicista, como circuitos e features explicam o comportamento dos LLMs, e por que isso define o futuro da segurança em IA.
Red-teaming e jailbreaks: como se testa a segurança de um modelo
Como se testa a segurança de um LLM: red-teaming, jailbreaks e a corrida assimétrica entre quem defende e quem contorna as travas do modelo.
Mythos 5: o modelo mais forte do mundo em cibersegurança e o dilema que ele cria
A Anthropic afirma que o Mythos tem as capacidades cibernéticas mais fortes de qualquer modelo. Isso é ótimo para quem defende — e o motivo exato pelo qual ele não é público.
Project Glasswing: a aposta da Anthropic para liberar poder sem liberar risco
O programa que decide quem pode usar o Mythos é a peça mais estratégica do lançamento. Entenda o Glasswing e o que ele revela sobre o futuro do acesso à IA de fronteira.