Seria útil se houvesse um acordo geral de que a atual gama de capacidades de IA resultará em coisas boas e más, e tivéssemos esforços mais específicos (paralelos às discussões existenciais maiores) para fazer as coisas boas funcionarem para mais pessoas e mitigar o óbvio lado negativo.

No positivo: A promessa inicial de tutores de IA integrados na educação sugere que esforços intensivos nessa área podem ajudar muitos ao redor do mundo, especialmente em áreas desfavorecidas. No negativo: Os deepfakes precisam ser regulamentados e é necessário um esforço em larga escala para fazer com que as IAs apoiem, e não prejudiquem, a saúde mental.

Muitos desses danos e benefícios são tanto previsíveis e/ou têm evidências empíricas iniciais, e intervenções agora poderiam trazer muitos benefícios. Há muitas preocupações de longo prazo sobre a IA, mas não acho que haja foco suficiente em aproveitar ou mitigar as capacidades de hoje.

Muitos desses esforços não devem ser deixados apenas para os laboratórios de IA, que parece ser o que está a acontecer, e que historicamente seriam casos clássicos onde o governo, universidades, organizações sem fins lucrativos e a indústria se uniriam para abordar necessidades urgentes. Há muito que poderia ser feito hoje.

E onde a indústria parece estar a fazer progressos em preocupações centrais, como o trabalho recente da OpenAI em crises de saúde mental, isso poderia potencialmente servir como base para organismos de definição de normas da indústria, que historicamente desempenharam um papel importante na auto-regulação em novas indústrias.

Pergunto-me se a escassez de organismos industriais voluntários (W3C, Unicode) em IA se deve às intensas (e muitas vezes pessoais) rivalidades entre as empresas de IA, talvez exacerbadas pela falta de necessidade de autorregulamentar padrões, uma vez que ainda não houve muita pressão regulatória.