floating point

[1/1]

  1. 5자리 정확도를 가진 여보수 오차 함수(erfc) 빠른 구현 방법
    이 글은 "Fast implementation of complementary error function with 5-digit accuracy" 논문에서 제시된 빠른 여보수 오차 함수(complementary error function
  2. 고정 소수점, 다중 정밀도, 심볼릭 계산: 실수점 연산의 정확성 보장 방법
    "Is floating-point math broken?"는 프로그래머들 사이에서 오랫동안 논쟁되어 온 주제입니다. 실수점 연산은 컴퓨터에서 널리 사용되지만, 그 정확성과 안정성에 대한 우려가 종종 제기됩니다. 특히