database.sarang.net
UserID
Passwd
Database
DBMS
MySQL
PostgreSQL
Firebird
Oracle
Informix
Sybase
ㆍMS-SQL
DB2
Cache
CUBRID
LDAP
ALTIBASE
Tibero
DB 문서들
스터디
Community
공지사항
자유게시판
구인|구직
DSN 갤러리
도움주신분들
Admin
운영게시판
최근게시물
MS-SQL Q&A 3440 게시물 읽기
No. 3440
형변환 시 소수점이 이상합니다
작성자
김종호
작성일
2007-04-25 23:54
조회수
2,721

아래와 같은 쿼리 실행결과에서....

* 쿼리
declare @data varchar(10)
set @data='37.226022'

select  37.136858 - convert(real,@data)

-> 결과 -8.9160919E-2

위에서 왜 결과가 저렇게 나오는거죠 계산기로 두둘겨 보면 아래와 같이 나와야 하는데
아래와 같이 나오게 하려면 어떻게 해야하는지 도와주세요 
위 @data 는 현재 사용중인 DB 필드인데 varchar 이고 저걸 형변환해서 계선을 해야합니다.

* 계산기 직접 계산
37.136858 - 37.226022 = -0.089164

이 글에 대한 댓글이 총 1건 있습니다.

Help 를 보니깐 convert 할때 기본으로 소숫점 6 자리 숫자까지만 나오게 하고 적절할땐 Scientific notation 으로 바꾼다고 나오네요...



일단은 이렇게 하면 임시 조치는 되는거 같고요...


select  convert(varchar, 37.136858 - convert(real,@data))



Help 를 함 참조해보세요...


Charles Yoon(gatsbi)님이 2007-04-26 13:12에 작성한 댓글입니다.
[Top]
No.
제목
작성자
작성일
조회
3446SEQ번호 자동증가 [2]
수영
2007-04-27
5699
3442전각을 반각으로 변환하는 함수 [4]
최정호
2007-04-26
3761
3441MS-SQL 2005 서비스 팩 2 이후 패치 버전....
박상수
2007-04-26
2192
3440형변환 시 소수점이 이상합니다 [1]
김종호
2007-04-25
2721
3439최고값 구하기 쿼리 질문입니다. [1]
윤동희
2007-04-25
2279
3438identity 값을 em 셋팅에서 형식으로 증가하게 설정한느거좀 [1]
정병화
2007-04-24
2263
3437null값 처리 [3]
최선
2007-04-24
3251
Valid XHTML 1.0!
All about the DATABASE... Copyleft 1999-2024 DSN, All rights reserved.
작업시간: 0.016초, 이곳 서비스는
	PostgreSQL v16.2로 자료를 관리합니다