컴퓨터 시스템은 수 데이터를 처리할 때 2진수를 사용하고, 부동 소수점 방식을 이용하여 실수를 처리한다.
하지만, 실수형을 저장하기 위해 4byte나 8byte의 고정된 크기의 메모리를 할당하기 때문에 대개 실수 정보를 표현하는
정확도에 한계를 가진다. 예를 들어, 0.7 + 0.2의 결과값은 0.9이지만, 컴퓨터 시스템 내에서 수행해보면
0.8999999999999999 의 값이 나온다. 이러한 문제를 해결하기 위해 round( ) 함수를 사용할 수 있다.
round( ) 함수 사용법 >> round(실수형 데이터, 반올림하고자 하는 위치 -1 )
[예제]
a = 0.7 + 0.2
print(a)
print(round(a, 4))
[결과]
'알고리즘 > 학습 내용' 카테고리의 다른 글
재귀 함수 (Recursive Function) (0) | 2021.08.23 |
---|---|
[파이썬] collections 모듈(deque, Counter) (0) | 2021.08.09 |
[파이썬] heapq (0) | 2021.08.09 |
[파이썬] 리스트 기본 메서드 (0) | 2021.08.09 |
[파이썬] 수행 시간 측정 (0) | 2021.08.09 |