sql >> Databasteknik >  >> RDS >> Sqlserver

skalförlust vid beräkning

Reglerna för decimal till decimal konvertering för multiplikation och division beskrivs i BOL .

men lämnar det ospecificerat exakt hur sådan trunkering utförs. Detta dokumenteras här . Men ibland är det lättare att bara använda trial and error!

Följande mellanavgjutningar ger dig det önskade resultatet. Kan du leva med dem?

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale


  1. Hur man extraherar en delsträng från en sträng i PostgreSQL/MySQL

  2. Hur ställer jag in ett SQL Server-skripts timeout inifrån skriptet?

  3. Generera CREATE INDEX-satser i SQL Server

  4. Hur man deklarerar variabel i PostgreSQL