pplware.sapo.pt - 29 abr. 09:00
Apple removeu da App Store apps que podiam gerar nus usando a IA
Apple removeu da App Store apps que podiam gerar nus usando a IA
Um problema foi descoberto na App Store, com 3 apps a serem removidas pela Apple, por estarem a permitir gerar nus usando a IA.
Com a IA cada vez mais presente, é normal que as apps comecem a usar esta tecnologia, ainda que para fins menos próprios. Foi isso que agora foi descoberto na App Store, com 3 apps a serem removidas pela Apple, por estarem a permitir gerar nus usando a IA.
A Apple removeu 3 apps perigosas da App StoreA Apple tem uma reputação de ser muito exigente com as apps que tem na App Store. O processo de aprovação destas é extenso e demorado, para garantirem que apenas as que cumprem as regras definidas são autorizadas, sem espaço para abusos ou situações anormais para os utilizadores.
Ainda que com este processo em curso, a Apple removeu da App Store 3 apps que claramente violavam as suas regras. Estas podiam ser usadas para gerar imagens de nus pelos utilizadores, bastando que estes carregassem as imagens que pretendessem alterar.
Embora as imagens não representem nudez real, estas propostas conseguiam gerar imagens que podiam ser usadas para assédio, chantagem e invasão de privacidade. A descoberta destas apps foi feita pela 404 Media, que rapidamente as reportou à Apple. A ideia era que a empresa avaliasse o cumprimento das regras e a sua presença da App Store.
Apps maliciosas podiam gerar nus usando a IAApesar de ter tomado as medidas corretas, a verdade é que a Apple deveria ter agido mais cedo. Surpreendentemente, essas apps estão disponíveis na App Store desde 2022, anunciando o recurso "despir" em sites para adultos. A denúncia feita também sugere que as apps foram inicialmente autorizadas a permanecer na App Store se removessem os anúncios dos sites para adultos.
No entanto, uma das apps apresentou anúncios até 2024, quando a Google a retirou da Play Store. É preocupante ver a natureza reativa da moderação da loja de apps do iPhone e o potencial dos programadores explorarem este tipo de falhas nas regras impostas.
Esta situação acontece a poucos dias da apresentação do iOS 18 pela Apple e dos seus (supostos) recursos de IA. A geração de imagens tem sido uma das formas usadas para explorar esta tecnologia, ainda que com regras bem definidas sobre a sua utilização.
EUA: Adolescentes detidos por criarem imagens ‘deepfake’ de nudez de colegas de turma