Descoberta de uma IA “super avançada” teria sido um dos motivos para a demissão de Sam Altman da OpenAI.

Para resumir, Samuel Harris Altman era o CEO da OpenAI. Em 17 de novembro de 2023, foi anunciado que o conselho da OpenAI havia tomado a decisão de destituir Altman de seu cargo de CEO. A razão teria sido uma comunicação que Samuel fez no Reddit, vazando informações sobre um produto que hoje se conhece por Q-Star (Q*) – sem avisar ao conselho da empresa. Esse produto seria capaz de aprender sozinho a resolver problemas matemáticos. Com “sozinho”, entenda-se “sem necessidade de treinamento”. O produto teria aprendido já a resolver problemas matemáticos do ensino médio e seria capaz de resolver problemas cada vez mais complexos. Isso o classificaria como uma Inteligência Artificial Geral (AGI – Artificial General Intelligence). Foi esse termo que Altman usou no Reddit (na conta [samaltman] ) e depois apagou.
Pressionado pela campanha dos funcionários da OpenAI, o Conselho readmitiu Altman. É claro que deve ter pesado bastante a notícia de que a Microsoft – já pertencente à iniciativa, mas tocando projetos próprios – o esperava de braços abertos.

Os pesquisadores da OpenAI acreditam que o Q-Star poderia impulsionar descobertas científicas, mas poderia criar problemas de segurança e ética. Penso que isso aconteceria porque, por exemplo, toda a segurança criptográfica de nosso sistema financeiro mundial se baseia na dificuldade da resolução de problemas matemáticos complexos. A fatoração do resultado da multiplicação de dois números primos enormes está nesta lista. Se Q-Star resolvesse isso, todo sistema deveria ser refeito – um prejuízo gigantesco !

O fato é que, aparentemente, Q-Star já existe – não é um truque de propaganda – e certamente sua pesquisa não irá parar – dando à OpenIA um grande poder sobre o futuro.

[ Veja a confusa notícia no The Decoder ]

Alguns nomes para pesquisar:

• Ilya Sutskever – OpenAI’s chief scientist
• Jakub Pachocki – researcher behind Q-Star
• Szymon Sidor – researcher behind Q-Star
• Greg Brockman – OpenAI co-founder

Achei muito interessante uma reportagem sobre a primeira empresa de Altman.