A Importância da Segurança na Inteligência Artificial: O Caso da Datumo

No mundo atual, onde a tecnologia avança rapidamente, a inteligência artificial (IA) se tornou uma parte essencial de muitas empresas. Porém, como um recente relatório da McKinsey aponta, a maioria das organizações sente que não está totalmente preparada para lidar com a IA de maneira segura e responsável. Isso levanta uma questão crucial: como podemos garantir que essas ferramentas tecnológicas funcionem de forma confiável e ética? Neste artigo, vamos explorar isso através do exemplo da startup sul-coreana Datumo, que está fazendo grandes strides para tornar a IA mais segura e acessível.

A Preparação das Empresas para a IA

Nos dias de hoje, a IA não é apenas uma tendência passageira; ela está mudando a forma como as empresas operam e tomam decisões. Entretanto, uma pesquisa da McKinsey revelou que 40% das empresas consideram a falta de explicabilidade dos modelos de IA um grande risco. A explicabilidade refere-se à capacidade de entender como e por que um sistema de IA toma certas decisões. O que é alarmante é que apenas 17% dessas organizações estão ativamente abordando essa questão.

É nesse contexto que a Datumo se destaca. Esta startup, que começou como uma empresa de rotulagem de dados, desenvolve ferramentas e conjuntos de dados que ajudam as empresas a testar, monitorar e melhorar seus modelos de IA. O mais impressionante é que tudo isso pode ser feito sem exigir habilidades técnicas aprofundadas.

A Evolução da Datumo

David Kim, CEO da Datumo e ex-pesquisador de IA na Agência de Desenvolvimento de Defesa da Coreia do Sul, fundou a empresa em 2018, buscando resolver um problema que o incomodava: o processo demorado de rotulagem de dados. A ideia, que nasceu durante uma competição de startups no KAIST (Instituto Avançado de Ciência e Tecnologia da Coreia), era criar um aplicativo de recompensa que permitisse que qualquer pessoa pudesse rotular dados em seu tempo livre, ganhando dinheiro por isso.

Logo após a concepção da ideia, a Datumo atraiu investimentos significativos, garantindo dezenas de milhares de dólares em pré-vendas durante a fase de descoberta de clientes. Isso não só validou a ideia, mas também estabeleceu as bases para que a startup gerasse mais de um milhão de dólares em receita no primeiro ano.

Expansão e Novas Oportunidades

Conforme a empresa cresceu, também ampliaram o escopo de seus serviços. Inicialmente focada apenas na rotulagem de dados, a Datumo agora oferece também serviços de avaliação de modelos de IA. As grandes empresas sul-coreanas, como Samsung e LG, começaram a solicitar que a startup fornecesse análises mais profundas sobre os resultados de seus modelos de IA. Essa mudança levou a Datumo a criar o primeiro conjunto de dados de referência da Coreia focado na confiança e segurança da IA.

O cofundador Michael Hwang destacou que “descobrimos que já estávamos fazendo avaliação de modelos de IA sem perceber.” Essa adaptação rápida é um testemunho da capacidade da Datumo de responder às necessidades do mercado, especialmente em um campo tão dinâmico como a IA.

Garantindo a Segurança e Confiabilidade da IA

As preocupações com a segurança e a confiabilidade da IA não podem ser subestimadas. A startup Datumo se diferencia de outros concorrentes, como a Scale AI, oferecendo um conjunto único de dados licenciados. No entanto, o que a torna realmente especial é a sua plataforma de avaliação chamada Datumo Eval, que gera automaticamente dados de teste e avaliações. Isso significa que as empresas podem verificar se suas IAs estão produzindo respostas seguras, imparciais e corretas, mesmo sem precisar de um programador para fazê-lo.

Essa ferramenta foi projetada para ser intuitiva e acessível, especialmente para equipes não técnicas que se concentram em políticas de segurança e conformidade. A ideia é tornar o processo mais fácil para todos, eliminando a necessidade de codificação complexa.

Investimentos e Crescimento

O sucesso da Datumo chamou a atenção de investidores. Recentemente, a startup levantou impressionantes 15,5 milhões de dólares em investimentos, com um total de cerca de 28 milhões de dólares. Investidores significativos, incluindo o Salesforce Ventures, reconheceram o potencial da empresa para revolucionar a forma como a IA é avaliada e monitorada.

Como Kim explicou, a conexão com investidores como o Salesforce Ventures começou após uma conversa informativa com Andrew Ng, um nome respeitado no mundo da IA, que gerou interesse e discussões sobre o potencial futuro da empresa.

O Caminho à Frente

Os novos recursos obtidos por meio de investimentos serão usados para acelerar a pesquisa e o desenvolvimento, especialmente na criação de ferramentas automatizadas de avaliação para IA empresarial. Além disso, a Datumo também se expandirá para novos mercados, como Japão e Estados Unidos, aumentando sua presença global.

Com cerca de 150 funcionários baseados em Seul e uma nova unidade em Silicon Valley, a Datumo está bem posicionada para enfrentar os desafios e oportunidades do setor de IA em constante evolução.

Conclusão

O mundo da inteligência artificial está mudando rapidamente e, com ele, a necessidade de responsabilidade e segurança. A Datumo é um exemplo claro de como empresas podem não apenas se adaptar, mas também liderar nesse campo. Ao garantir que a IA seja não apenas eficaz, mas também segura e explicável, a Datumo está ajudando a moldar o futuro da tecnologia de maneiras que beneficiam a todos.

A lição que podemos tirar desse caso é que, enquanto a tecnologia avança, a ética e a segurança não devem ser deixadas de lado. A Datumo mostra que é possível construir um futuro em que a inteligência artificial funcione para o bem de todos, garantindo que todos possam confiar nos sistemas que influenciam nossas vidas diárias. Com empresas como essa à frente, podemos ter esperança em um futuro de IA mais seguro e ético.