Enviado em 07/11/2018 - 11:41h
Algo estranho na conversão de valores double para int [RESOLVIDO]
Responder tópico2. Re: Algo estranho na conversão de valores double para int [RESOLVIDO]
Melhor resposta
Enviado em 07/11/2018 - 12:48h
Experimente imprimir que você acha que é 1.00000 com mais do que 16 dígitos de precisão. Provavelmente esse valor é quase igual a 1, e é arredondado para 1.00000 quando você manda imprimir o valor com seis ou sete dígitos de precisão, mas se requisitar mais casas (a precisão de double é de quase 16 casas), verá que ainda falta um tantinho para chegar realmente a 1.
3. Re: Algo estranho na conversão de valores double para int [RESOLVIDO]
Enviado em 07/11/2018 - 12:58h
Os valores que você usou como exemplo parecem frações com denominador 6. Isso me lembra que um dos exercícios de Cálculo Numérico era provar que, com uma representação binária de ponto flutuante de cada uma das parcelas, a soma de 1/3+1/3+1/3 será necessariamente sempre diferente da representação binária de 1.
Responder tópico
Entre na sua conta para responder.