Vamos lá.
Vamos chamar a quantia aplicada de "C".
Então, essa pessoa, no 1º mês perdeu 30% (ou 0,30) da quantia aplicada. Então essa pessoa, no 1º mês:
C - 0,30C = 0,70C <----Esse foi o valor com que a pessoa ficou no 1º mês.
No 2º mês essa pessoa conseguiu recuperar 20% (ou 0,20) do que havia perdido. Como ele perdeu 0,30*C, então essa pessoa recuperou :
0,20*0,30C = 0,06C. <----Essa foi a quantia que essa pessoa ganhou no 2º mês.
Como a pessoa, no final do 2º mês retirou o montante formado nos dois meses, e que foi igual a R$ 3.800,00, então você faz:
0,70C + 0,06C = 3.800
0,76C = 3.800
C = 3.800/0,76
C = 5.000,00 <----Pronto. Essa é a resposta. Opção "c'.