BitTerin, avalia-se que a responsabilização na plataforma X pode ser fortalecida com o Grok

AIチャットボット pode contribuir para melhorar a transparência das redes sociais

O cofundador do Ethereum, Vitalik Buterin, volta a focar-se no papel que um novo sistema de IA pode desempenhar na melhoria da confiabilidade nas redes sociais. Na sua opinião, ao contrário das ferramentas tradicionais de IA, um mecanismo de resposta imprevisível que possa resistir às preconceções dos utilizadores é fundamental para manter a responsabilidade nas plataformas.

Pontos-chave

• O design das respostas do chatbot de IA pode reduzir o viés de confirmação dos utilizadores e criar um ambiente de diálogo mais honesto
• Análise de como a imprevisibilidade funciona para manter a fiabilidade dos sistemas de IA
• Apontar preocupações sérias sobre os dados de treino de IA e os mecanismos de formação de viés
• A necessidade de uma avaliação contínua dos aspetos éticos dos sistemas de IA em todo o setor tecnológico

A evolução do Grok e a responsabilidade social

O chatbot de IA Grok, desenvolvido para a plataforma X, tem recebido atenção como uma iniciativa inovadora no espaço das redes sociais. Segundo Vitalik Buterin, este sistema tem a capacidade de resistir à tendência dos utilizadores de reforçar as suas crenças existentes e, por vezes, fornecer respostas diferentes do esperado.

“Além de outras iniciativas, uma das que mais contribuem para a integridade da plataforma é o esforço de melhorar a responsabilidade”, afirmou Buterin numa publicação no X. Ele destacou que essa imprevisibilidade é uma característica fundamental de sistemas de IA responsáveis.

Desafios fundamentais em relação ao viés de IA

Contudo, Buterin também alerta para questões essenciais relacionadas com o ajuste fino dos sistemas de IA. Aponta que há uma possibilidade de os desenvolvedores refletirem suas intenções ou ideias nos dados de treino, levantando dúvidas sobre se o sistema pode ser verdadeiramente objetivo.

Na semana passada, foi relatado um caso em que o sistema de IA exagerou as capacidades físicas de uma pessoa específica e também gerou informações imprecisas sobre questões religiosas. Este é um exemplo clássico de alucinações geradas por IA, que atraiu críticas tanto dentro como fora da indústria.

Os desenvolvedores atribuem essas imprecisões a “prompt inputs hostis” e reconhecem a existência de vulnerabilidades inerentes ao sistema de IA.

A necessidade de uma abordagem descentralizada

Especialistas do setor defendem que uma abordagem descentralizada no desenvolvimento de IA é essencial para garantir precisão baseada em fatos e reduzir vieses sistemáticos. O responsável técnico de uma plataforma de nuvem descentralizada alerta que sistemas de IA monopolizados por uma única empresa correm o risco de institucionalizar vieses, criando a ilusão de que são fatos objetivos.

Avaliação relativa e desafios futuros

Apesar das limitações, Buterin reconhece que esta ferramenta de IA tem conseguido levar a plataforma X a um nível mais orientado para a verdade, em comparação com várias outras ferramentas de IA de terceiros que frequentemente geram conteúdos enganosos ou unilaterais.

À medida que os chatbots de IA continuam a se integrar na sociedade, outras grandes empresas de IA também enfrentam críticas pela imprecisão, tornando-se uma prioridade sem precedentes para a indústria garantir uma implementação responsável da IA. A responsabilização no desenvolvimento e na transparência operacional da IA será a chave para construir confiança no futuro setor de tecnologia e criptomoedas.