Hoje, a Goodfire, empresa líder em pesquisa de interpretabilidade de IA, anunciou uma rodada de financiamento Série A de US$ 50 milhões liderada pela Menlo Ventures com a participação da Lightspeed Venture Partners, Anthropic, B Capital, Work-Bench, Wing, South Park Commons e outros investidores notáveis. Este financiamento, que ocorre menos de um ano após sua fundação, apoiará a expansão das iniciativas de pesquisa da Goodfire e o desenvolvimento da principal plataforma de interpretabilidade da empresa, a Ember, em parceria com os clientes.

“Modelos de IA são notoriamente caixas-pretas não determinísticas”, disse Deedy Das, investidor da Menlo Ventures. “A equipe de alto nível da Goodfire — formada pela OpenAI e pelo Google DeepMind — está desvendando essa caixa para ajudar as empresas a realmente entender, orientar e controlar seus sistemas de IA.”

Apesar dos avanços notáveis ​​em IA, mesmo os principais pesquisadores têm pouca noção de como as redes neurais realmente funcionam. Essa lacuna de conhecimento torna as redes neurais difíceis de projetar, propensas a falhas imprevisíveis e cada vez mais arriscadas de implementar, à medida que esses sistemas poderosos se tornam mais difíceis de orientar e compreender.

“Ninguém entende os mecanismos pelos quais os modelos de IA falham, então ninguém sabe como corrigi-los”, disse Eric Ho , cofundador e CEO da Goodfire. “Nossa visão é desenvolver ferramentas que tornem as redes neurais fáceis de entender, projetar e corrigir de dentro para fora. Essa tecnologia é fundamental para construir a próxima fronteira de modelos de base seguros e robustos.”

Para solucionar esse problema crítico, a Goodfire está investindo significativamente em pesquisas sobre interpretabilidade mecanicista – a ciência relativamente incipiente da engenharia reversa de redes neurais e da tradução desses insights em uma plataforma universal e independente de modelos. Conhecida como Ember, a plataforma da Goodfire decodifica os neurônios dentro de um modelo de IA para fornecer acesso direto e programável aos seus pensamentos internos. Ao ir além das entradas e saídas de caixa-preta, o Ember desbloqueia maneiras inteiramente novas de aplicar, treinar e alinhar modelos de IA – permitindo que os usuários descubram novos conhecimentos ocultos em seus modelos, moldem com precisão seus comportamentos e aprimorem seu desempenho.

“À medida que as capacidades da IA ​​avançam, nossa capacidade de compreender esses sistemas precisa acompanhar o ritmo. Nosso investimento na Goodfire reflete nossa crença de que a interpretabilidade mecanicista está entre as melhores apostas para nos ajudar a transformar redes neurais de caixa-preta em sistemas compreensíveis e controláveis ​​— uma base fundamental para o desenvolvimento responsável de uma IA poderosa”, disse Dario Amodei , CEO e cofundador da Anthropic.

Olhando para o futuro, a Goodfire está acelerando sua pesquisa em interpretabilidade por meio de iniciativas direcionadas com desenvolvedores de modelos de ponta. Ao estabelecer parcerias estreitas com inovadores do setor, a Goodfire aprimorará e consolidará rapidamente a aplicação da pesquisa em interpretabilidade. “A parceria com a Goodfire foi fundamental para obter insights mais profundos do Evo 2, nosso modelo de DNA”, disse Patrick Hsu , cofundador do Arc Institute – um dos primeiros colaboradores da Goodfire. “Suas ferramentas de interpretabilidade nos permitiram extrair novos conceitos biológicos que estão acelerando nosso processo de descoberta científica.”

A empresa também planeja lançar prévias adicionais de pesquisas, destacando técnicas de interpretabilidade de ponta em diversas áreas, como processamento de imagens, modelos avançados de linguagem de raciocínio e modelagem científica. Esses esforços prometem revelar novos insights científicos e reformular fundamentalmente nossa compreensão de como podemos interagir e aproveitar modelos de IA.

A equipe da Goodfire reúne os principais pesquisadores em interpretabilidade de IA e operadores de startups experientes de organizações como OpenAI e Google DeepMind. Os pesquisadores da Goodfire ajudaram a fundar o campo da interpretabilidade mecanicista, sendo autores de três dos artigos mais citados e pioneiros em avanços como Sparse Autoencoders (SAEs) para descoberta de recursos , frameworks de autointerpretabilidade e revelando o conhecimento oculto em modelos de IA… saiba mais em Yahoo Finance 17/04/2025