Não vejo qualquer razão para ficar irritada com a expressão «por conta de». O Dicionário Prático de Locuções e Expressões Correntes, de Emanuel de Moura Correia e Persília de Melim Teixeira, edição da Papiro Editora, regista-a com o significado de «a cargo de»; por exemplo, «esta obra fica por conta do José», quer dizer que «a obra fica a cargo do José». Nada de errado, portanto...
O mesmo dicionário ainda regista, entre outras, as expressões «dar conta de» («notar; responder por; acabar»), «dar conta do recado» («desempenhar-se cabalmente das suas tarefas»), «dar por conta» («fazer um pagamento parcial»), «dar-se conta de» («notar; aperceber-se de»), «fazer conta de» («supor; esperar; tencionar»), «não ser da sua conta» («não lhe dizer respeito; não ter nada com isso; não se querer meter no assunto; não ser da sua competência»), «por conta, peso e medida» («à justa; com todas as condições necessárias»), «por conta» («para diminuir o débito») e «por sua conta e risco» («por sua iniciativa e responsabilidade»).
O Dicionário da Língua Portuguesa 2008, da Porto Editora, regista a expressão «à conta de», como o significado de «por causa de», e no Houaiss a expressão «por conta de» é sinónima de «por causa de», a exemplo de «p[or] conta da nova lei, os impostos serão aumentados».