Processo de Reconhecimento – Selos de Transparência e Explicabilidade de Algoritmos
Processo de Reconhecimento – Selos de Transparência e Explicabilidade de Algoritmos
- A organização contrata o processo de reconhecimento e aceita a respetiva fee;
- Seguindo critérios pré-estabelecidos pelo Programa AI.ethics, a organização declara a sua disponibilidade para que os seus sistemas de IA, próprios ou contratados, sejam escrutinados e realiza uma autoavaliação;
- A APEE, com a colaboração dos stakeholders apropriados, analisa a autoavaliação e, caso o parecer seja favorável, emite um Selo de Qualificação (que poderá ter vários níveis) relativo à confiança ética dos sistemas de IA em causa;
- A partir dessa etapa, e durante um determinado período, serão realizados “testes de stress” aos algoritmos dos sistemas de IA, numa periodicidade que seja adequada aos riscos que os sistemas evidenciem;
- Os Selos seguintes dependerão da conformidade aos seus requisitos;
- Será aberto, para cada Selo emitido, um canal digital de comunicação, a ser utilizado pelas organizações aderentes, para serem informados quanto a ocorrências positivas ou negativas, atribuídas ao funcionamento do algoritmo, de acordo com o juízo do comunicante;
- A empresa é regularmente informada, de modo a que possa reagir como entender à ocorrência e a APEE colabora na procura de soluções, dentro das suas competências;
- O Selo é renovável mediante nova avaliação. A emissão do Selo e as suas renovações estão sujeitas a pagamento;
- Cada Selo tem uma determinada validade, e deverá ser renovado nas condições que vierem a ser estabelecidas no Regulamento AI.ethics.
E depois, fica por aqui?
Não. A APEE envolve-se em todo o processo de melhoria e acompanhará o seguimento de todo o processo, avaliando o impacte detetado e, se for o caso, elaborando propostas de correção ou melhoria do sistema. O desfecho da avaliação e possíveis passos seguintes serão comunicados à entidade que detetou o impacte negativo.
E se não obtiver o devido reconhecimento?
Caso algum dos sistemas utilizados não supere um determinado teste, ou tenha sido identificado algum impacte comprovadamente negativo, e a organização não consiga ou não deseje corrigi-lo, deixará de fazer parte da plataforma, perdendo os selos de Reconhecimento já adquiridos.