Glossário: Singularidade, Alinhamento, ASI e Outros Termos

# Níveis de inteligência artificial

A inteligência artificial é classificada em três níveis de capacidade, do mais limitado ao mais avançado:

• ANI (Artificial Narrow Intelligence): IA Estreita. Especializada em uma tarefa. É o que temos hoje (ChatGPT, Midjourney, Copilot).
• AGI (Artificial General Intelligence): IA Geral. Capaz de realizar qualquer tarefa intelectual que um humano consegue. Ainda não existe.
• ASI (Artificial Superintelligence): Superinteligência. Supera o humano em todos os campos cognitivos. Conceito teórico.

# Singularidade tecnológica

A singularidade tecnológica é o ponto hipotético em que a IA se torna capaz de se aperfeiçoar recursivamente, criando inteligência cada vez mais rápida de forma autônoma. O termo foi popularizado por Vernor Vinge em 1993 e por Ray Kurzweil, que prevê a singularidade para meados do século XXI.

A ideia é que, uma vez que a IA atinja um nível de inteligência humana (AGI), ela poderá projetar uma IA ainda mais inteligente, que por sua vez projetará uma ainda mais inteligente, em um ciclo de auto-aprimoramento que pode ser muito rápido. Esse processo é chamado de "explosão de inteligência".

# Alinhamento de IA

Alinhamento é o problema de garantir que um sistema de IA faça o que queremos que faça, e não algo diferente. À medida que a IA se torna mais capaz, garantir que seus objetivos correspondam aos valores humanos se torna mais difícil e mais importante.

O problema de alinhamento é central na pesquisa de segurança de IA. Organizações como a Anthropic foram fundadas especificamente para resolver o alinhamento antes que a AGI chegue. O desafio é que é difícil especificar objetivos humanos de forma precisa — o que queremos nem sempre é o que dizemos querer.

# Ortogonalidade

A tese da ortogonalidade, formulada por Nick Bostrom, afirma que o nível de inteligência de um sistema e seus objetivos finais são independentes. Em outras palavras, um sistema pode ser superinteligente e ter objetivos arbitrários — não há garantia de que maior inteligência leve a objetivos que consideramos bons.

Isso significa que não podemos assumir que uma ASI automaticamente compartilhará valores humanos. Um sistema superinteligente pode ser extremamente capaz e ao mesmo tempo ter objetivos que não têm nada a ver com o bem-estar humano. Por isso, o alinhamento é necessário, não opcional.

# Convergência instrumental

Convergência instrumental é a ideia de que, independentemente dos objetivos finais de um sistema de IA, certos objetivos intermediários são quase sempre úteis: autopreservação, acúmulo de recursos e melhoria cognitiva. Um sistema inteligente, qualquer que seja sua meta final, tenderá a buscar esses instrumentos.

Isso é preocupante porque mesmo uma ASI com objetivos aparentemente benignos pode buscar autopreservação e recursos de formas que conflitam com interesses humanos. O problema não é o objetivo final, mas os passos intermediários que a IA pode dar para alcançá-lo.

# Auto-aprimoramento recursivo

Auto-aprimoramento recursivo é a capacidade de um sistema de IA de melhorar a si mesmo, criando versões cada vez mais inteligentes de forma autônoma. Se cada versão melhorada for mais rápida em melhorar a próxima, o processo pode acelerar exponencialmente.

Esse conceito é a base da ideia de singularidade. Se uma AGI conseguir se aperfeiçoar recursivamente, a transição de AGI para ASI pode ser muito rápida — talvez em dias ou horas, não décadas. Por isso, alguns pesquisadores defendem que é preciso resolver o alinhamento antes de criar uma AGI.

# FOOM

FOOM é um termo cunhado por Eliezer Yudkowsky para descrever uma explosão de inteligência muito rápida — uma situação em que uma IA passa de sub-humana a superinteligente em questão de dias, horas ou minutos, por meio de auto-aprimoramento recursivo.

O debate sobre FOOM divide pesquisadores. Alguns, como Yudkowsky, acreditam que a explosão pode ser muito rápida e imprevisível. Outros, como Robin Hanson, argumentam que a transição será mais gradual, pois a melhoria da IA depende de hardware, dados e pesquisa científica que levam tempo.

# Segurança de IA (AI Safety)

Segurança de IA é o campo de pesquisa dedicado a garantir que sistemas de IA, especialmente os mais avançados, sejam seguros, confiáveis e alinhados com valores humanos. Inclui alinhamento, interpretabilidade, robustez e governança.

Principais organizações de pesquisa em segurança de IA incluem o Machine Intelligence Research Institute (MIRI), o Future of Humanity Institute (Oxford), o Center for Human-Compatible AI (Berkeley) e a própria Anthropic, que foi fundada com foco em segurança. O campo cresceu significativamente nos últimos anos, com aumento de investimento tanto de governos quanto de empresas.