A OpenAI, a startup por trás do ChatGPT, disse na noite de ontem (16) que está desenvolvendo uma atualização que permitirá que os usuários personalizem o chatbot, enquanto trabalha para resolver preocupações sobre viés na inteligência artificial.
A startup, apoiada pela Microsoft, disse que trabalhou para mitigar preconceitos políticos e outras questões, mas também quer acomodar pontos de vista mais diversos.
“Isso significa permitir respostas do sistema com as quais outras pessoas (inclusive nós) podem discordar fortemente”, afirmou a companhia, que acredita que a oferta de personalização é o caminho a seguir. Ainda assim, “sempre haverá alguns limites no comportamento do sistema”, afirmou a OpenAI.
O ChatGPT, lançado em novembro do ano passado, consegue produzir respostas semelhantes às dadas por humanos, despertando forte interesse na tecnologia por trás dele, chamada de IA generativa.
Acompanhe em primeira mão o conteúdo do Forbes no Telegram
O anúncio da startup chega na mesma semana em que alguns meios de comunicação apontaram que as respostas do novo mecanismo de busca Bing, da Microsoft, desenvolvido pela OpenAI, são potencialmente perigosas e que a tecnologia pode não estar pronta para o uso generalizado do público.
A OpenAI disse que o ChatGPT é treinado primeiro em grandes conjuntos de texto disponíveis na Internet. Como uma segunda etapa, humanos revisam um conjunto de dados menor e o aplicativo recebe orientações sobre o que fazer em diferentes situações.
Por exemplo, no caso de um usuário solicitar conteúdo adulto, violento ou com discurso de ódio, o revisor humano deve direcionar o ChatGPT para responder com algo como “Não posso responder a isso.”
Se questionado sobre um tema polêmico, os revisores devem permitir que o ChatGPT responda à pergunta, mas se oferecer para descrever pontos de vista de pessoas e movimentos distintos, em vez de tentar “ter o ponto de vista correto sobre esses temas complexos”, explicou a empresa.
O post OpenAI vai deixar usuários personalizarem ChatGPT apareceu primeiro em Forbes Brasil.