|
MySQL.RU - Webboard
 Вернуться
 Глючит power() или я? (Webnode) 20/10/2010 - 16:36:29
From: Webnode - 20/10/2010 - 16:36:29
Subject:Глючит power() или я?
-----------------
Люди, привет!
Столкнулся с глюком таким:
есть задачка - сравнение гистограмм 2-х картинок, использую метод Chi-Square из книжки OpenCV, в двух словах надо получить сумму по делению квадратов разности значения гистограмм на сумму этих же значений. Значения гистограмм в табличке пронумерованы для удобства, таблица на все картинки общая.
использую такую строку:
select sum(power((h1.value - h2.value),2)/(h1.value + h2.value)) as COMP_CHISQR from histograms as h1, histograms as h2 where h1.photoid='23FE219C3E46DC80' and h2.photoid='FEAAEDA58EF74267' and h1.sequence = h2.sequence;
Получаю немыслимое число 2.583050114496e+38
однако если просто помножить:
select sum((h1.value - h2.value)*(h1.value - h2.value)/(h1.value + h2.value)) as COMP_CHISQR from histograms as h1, histograms as h2 where h1.photoid='23FE219C3E46DC80' and h2.photoid='FEAAEDA58EF74267' and h1.sequence = h2.sequence;
то всё ок, число как и надо...
Глючит при возведении отрицательного числа, когда h1.value-h2.value < 0
abs() НЕ ПОМОГАЕТ!!!
Сталкивался ли кто с таким?
[Это сообщение - спам!]
Последние сообщения из форума
Уважаемые посетители форума MySQL.RU!
Убедительная просьба, прежде чем задавать свой вопрос в этом форуме, обратите внимание на разделы:
- ответы на наиболее часто задаваемые вопросы - FAQ
- раздел документация
- раздел поиск по сообщениям форума и документации
Также, старайтесь наиболее подробно указывать свою ситуацию (версию операционной системы, версию MySQL,
версию программного обеспечения, по которому возникает вопрос, текст возникающих ошибок, и др.)
Помните, чем конкретнее Вы опишете ситуацию, тем больше шансов получить реальную помощь.
37612
|
|
