blob: c1d130d4ec525cfe28c0a993eda449ef0141f7cd (
plain)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
|
require_relative '../../spec_helper'
ruby_version_is ""..."3.4" do
require_relative 'fixtures/classes'
require 'bigdecimal'
describe "BigDecimal.limit" do
it "returns the value before set if the passed argument is nil or is not specified" do
old = BigDecimal.limit
BigDecimal.limit.should == 0
BigDecimal.limit(10).should == 0
BigDecimal.limit.should == 10
BigDecimal.limit(old)
end
it "uses the global limit if no precision is specified" do
BigDecimalSpecs.with_limit(0) do
(BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.888')
(BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.888')
(BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('2.664')
(BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.296')
end
BigDecimalSpecs.with_limit(1) do
(BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.9')
(BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.9')
(BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('3')
(BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.3')
end
BigDecimalSpecs.with_limit(2) do
(BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.89')
(BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.89')
(BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('2.7')
(BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.30')
end
end
it "picks the specified precision over global limit" do
BigDecimalSpecs.with_limit(3) do
BigDecimal('0.888').add(BigDecimal('0'), 2).should == BigDecimal('0.89')
BigDecimal('0.888').sub(BigDecimal('0'), 2).should == BigDecimal('0.89')
BigDecimal('0.888').mult(BigDecimal('3'), 2).should == BigDecimal('2.7')
BigDecimal('0.888').div(BigDecimal('3'), 2).should == BigDecimal('0.30')
end
end
it "picks the global precision when limit 0 specified" do
BigDecimalSpecs.with_limit(3) do
BigDecimal('0.8888').add(BigDecimal('0'), 0).should == BigDecimal('0.889')
BigDecimal('0.8888').sub(BigDecimal('0'), 0).should == BigDecimal('0.889')
BigDecimal('0.888').mult(BigDecimal('3'), 0).should == BigDecimal('2.66')
BigDecimal('0.8888').div(BigDecimal('3'), 0).should == BigDecimal('0.296')
end
end
end
end
|