Merge branch 'master' into crufting
This commit is contained in:
commit
a6e09c9249
@ -40,7 +40,7 @@ func newRpcServer(opts ...Option) Server {
|
|||||||
|
|
||||||
return &rpcServer{
|
return &rpcServer{
|
||||||
opts: options,
|
opts: options,
|
||||||
router: DefaultRouter,
|
router: router,
|
||||||
handlers: make(map[string]Handler),
|
handlers: make(map[string]Handler),
|
||||||
subscribers: make(map[*subscriber][]broker.Subscriber),
|
subscribers: make(map[*subscriber][]broker.Subscriber),
|
||||||
exit: make(chan chan error),
|
exit: make(chan chan error),
|
||||||
|
@ -6,24 +6,26 @@ import (
|
|||||||
"net"
|
"net"
|
||||||
|
|
||||||
"github.com/hashicorp/consul/api"
|
"github.com/hashicorp/consul/api"
|
||||||
"github.com/micro/go-micro/sync/data"
|
"github.com/micro/go-micro/options"
|
||||||
|
"github.com/micro/go-micro/store"
|
||||||
)
|
)
|
||||||
|
|
||||||
type ckv struct {
|
type ckv struct {
|
||||||
|
options.Options
|
||||||
client *api.Client
|
client *api.Client
|
||||||
}
|
}
|
||||||
|
|
||||||
func (c *ckv) Read(key string) (*data.Record, error) {
|
func (c *ckv) Read(key string) (*store.Record, error) {
|
||||||
keyval, _, err := c.client.KV().Get(key, nil)
|
keyval, _, err := c.client.KV().Get(key, nil)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return nil, err
|
||||||
}
|
}
|
||||||
|
|
||||||
if keyval == nil {
|
if keyval == nil {
|
||||||
return nil, data.ErrNotFound
|
return nil, store.ErrNotFound
|
||||||
}
|
}
|
||||||
|
|
||||||
return &data.Record{
|
return &store.Record{
|
||||||
Key: keyval.Key,
|
Key: keyval.Key,
|
||||||
Value: keyval.Value,
|
Value: keyval.Value,
|
||||||
}, nil
|
}, nil
|
||||||
@ -34,7 +36,7 @@ func (c *ckv) Delete(key string) error {
|
|||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
|
|
||||||
func (c *ckv) Write(record *data.Record) error {
|
func (c *ckv) Write(record *store.Record) error {
|
||||||
_, err := c.client.KV().Put(&api.KVPair{
|
_, err := c.client.KV().Put(&api.KVPair{
|
||||||
Key: record.Key,
|
Key: record.Key,
|
||||||
Value: record.Value,
|
Value: record.Value,
|
||||||
@ -42,17 +44,17 @@ func (c *ckv) Write(record *data.Record) error {
|
|||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
|
|
||||||
func (c *ckv) Dump() ([]*data.Record, error) {
|
func (c *ckv) Dump() ([]*store.Record, error) {
|
||||||
keyval, _, err := c.client.KV().List("/", nil)
|
keyval, _, err := c.client.KV().List("/", nil)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return nil, err
|
||||||
}
|
}
|
||||||
if keyval == nil {
|
if keyval == nil {
|
||||||
return nil, data.ErrNotFound
|
return nil, store.ErrNotFound
|
||||||
}
|
}
|
||||||
var vals []*data.Record
|
var vals []*store.Record
|
||||||
for _, keyv := range keyval {
|
for _, keyv := range keyval {
|
||||||
vals = append(vals, &data.Record{
|
vals = append(vals, &store.Record{
|
||||||
Key: keyv.Key,
|
Key: keyv.Key,
|
||||||
Value: keyv.Value,
|
Value: keyv.Value,
|
||||||
})
|
})
|
||||||
@ -64,22 +66,22 @@ func (c *ckv) String() string {
|
|||||||
return "consul"
|
return "consul"
|
||||||
}
|
}
|
||||||
|
|
||||||
func NewData(opts ...data.Option) data.Data {
|
func NewStore(opts ...options.Option) store.Store {
|
||||||
var options data.Options
|
options := options.NewOptions(opts...)
|
||||||
for _, o := range opts {
|
|
||||||
o(&options)
|
|
||||||
}
|
|
||||||
|
|
||||||
config := api.DefaultConfig()
|
config := api.DefaultConfig()
|
||||||
|
|
||||||
|
var nodes []string
|
||||||
|
|
||||||
|
if n, ok := options.Values().Get("store.nodes"); ok {
|
||||||
|
nodes = n.([]string)
|
||||||
|
}
|
||||||
|
|
||||||
// set host
|
// set host
|
||||||
// config.Host something
|
if len(nodes) > 0 {
|
||||||
// check if there are any addrs
|
addr, port, err := net.SplitHostPort(nodes[0])
|
||||||
if len(options.Nodes) > 0 {
|
|
||||||
addr, port, err := net.SplitHostPort(options.Nodes[0])
|
|
||||||
if ae, ok := err.(*net.AddrError); ok && ae.Err == "missing port in address" {
|
if ae, ok := err.(*net.AddrError); ok && ae.Err == "missing port in address" {
|
||||||
port = "8500"
|
port = "8500"
|
||||||
config.Address = fmt.Sprintf("%s:%s", options.Nodes[0], port)
|
config.Address = fmt.Sprintf("%s:%s", nodes[0], port)
|
||||||
} else if err == nil {
|
} else if err == nil {
|
||||||
config.Address = fmt.Sprintf("%s:%s", addr, port)
|
config.Address = fmt.Sprintf("%s:%s", addr, port)
|
||||||
}
|
}
|
||||||
@ -88,6 +90,7 @@ func NewData(opts ...data.Option) data.Data {
|
|||||||
client, _ := api.NewClient(config)
|
client, _ := api.NewClient(config)
|
||||||
|
|
||||||
return &ckv{
|
return &ckv{
|
||||||
|
Options: options,
|
||||||
client: client,
|
client: client,
|
||||||
}
|
}
|
||||||
}
|
}
|
97
store/memory/memory.go
Normal file
97
store/memory/memory.go
Normal file
@ -0,0 +1,97 @@
|
|||||||
|
// Package memory is a in-memory store store
|
||||||
|
package memory
|
||||||
|
|
||||||
|
import (
|
||||||
|
"sync"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/micro/go-micro/options"
|
||||||
|
"github.com/micro/go-micro/store"
|
||||||
|
)
|
||||||
|
|
||||||
|
type memoryStore struct {
|
||||||
|
options.Options
|
||||||
|
|
||||||
|
sync.RWMutex
|
||||||
|
values map[string]*memoryRecord
|
||||||
|
}
|
||||||
|
|
||||||
|
type memoryRecord struct {
|
||||||
|
r *store.Record
|
||||||
|
c time.Time
|
||||||
|
}
|
||||||
|
|
||||||
|
func (m *memoryStore) Dump() ([]*store.Record, error) {
|
||||||
|
m.RLock()
|
||||||
|
defer m.RUnlock()
|
||||||
|
|
||||||
|
var values []*store.Record
|
||||||
|
|
||||||
|
for _, v := range m.values {
|
||||||
|
// get expiry
|
||||||
|
d := v.r.Expiry
|
||||||
|
t := time.Since(v.c)
|
||||||
|
|
||||||
|
// expired
|
||||||
|
if d > time.Duration(0) && t > d {
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
values = append(values, v.r)
|
||||||
|
}
|
||||||
|
|
||||||
|
return values, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (m *memoryStore) Read(key string) (*store.Record, error) {
|
||||||
|
m.RLock()
|
||||||
|
defer m.RUnlock()
|
||||||
|
|
||||||
|
v, ok := m.values[key]
|
||||||
|
if !ok {
|
||||||
|
return nil, store.ErrNotFound
|
||||||
|
}
|
||||||
|
|
||||||
|
// get expiry
|
||||||
|
d := v.r.Expiry
|
||||||
|
t := time.Since(v.c)
|
||||||
|
|
||||||
|
// expired
|
||||||
|
if d > time.Duration(0) && t > d {
|
||||||
|
return nil, store.ErrNotFound
|
||||||
|
}
|
||||||
|
|
||||||
|
return v.r, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (m *memoryStore) Write(r *store.Record) error {
|
||||||
|
m.Lock()
|
||||||
|
defer m.Unlock()
|
||||||
|
|
||||||
|
// set the record
|
||||||
|
m.values[r.Key] = &memoryRecord{
|
||||||
|
r: r,
|
||||||
|
c: time.Now(),
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (m *memoryStore) Delete(key string) error {
|
||||||
|
m.Lock()
|
||||||
|
defer m.Unlock()
|
||||||
|
|
||||||
|
// delete the value
|
||||||
|
delete(m.values, key)
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// NewStore returns a new store.Store
|
||||||
|
func NewStore(opts ...options.Option) store.Store {
|
||||||
|
options := options.NewOptions(opts...)
|
||||||
|
|
||||||
|
return &memoryStore{
|
||||||
|
Options: options,
|
||||||
|
values: make(map[string]*memoryRecord),
|
||||||
|
}
|
||||||
|
}
|
15
store/options.go
Normal file
15
store/options.go
Normal file
@ -0,0 +1,15 @@
|
|||||||
|
package store
|
||||||
|
|
||||||
|
import (
|
||||||
|
"github.com/micro/go-micro/options"
|
||||||
|
)
|
||||||
|
|
||||||
|
// Set the nodes used to back the store
|
||||||
|
func Nodes(a ...string) options.Option {
|
||||||
|
return options.WithValue("store.nodes", a)
|
||||||
|
}
|
||||||
|
|
||||||
|
// Prefix sets a prefix to any key ids used
|
||||||
|
func Prefix(p string) options.Option {
|
||||||
|
return options.WithValue("store.prefix", p)
|
||||||
|
}
|
@ -1,17 +1,21 @@
|
|||||||
// Package data is an interface for key-value storage.
|
// Package store is an interface for distribute data storage.
|
||||||
package data
|
package store
|
||||||
|
|
||||||
import (
|
import (
|
||||||
"errors"
|
"errors"
|
||||||
"time"
|
"time"
|
||||||
|
|
||||||
|
"github.com/micro/go-micro/options"
|
||||||
)
|
)
|
||||||
|
|
||||||
var (
|
var (
|
||||||
ErrNotFound = errors.New("not found")
|
ErrNotFound = errors.New("not found")
|
||||||
)
|
)
|
||||||
|
|
||||||
// Data is a data storage interface
|
// Store is a data storage interface
|
||||||
type Data interface {
|
type Store interface {
|
||||||
|
// embed options
|
||||||
|
options.Options
|
||||||
// Dump the known records
|
// Dump the known records
|
||||||
Dump() ([]*Record, error)
|
Dump() ([]*Record, error)
|
||||||
// Read a record with key
|
// Read a record with key
|
||||||
@ -26,7 +30,5 @@ type Data interface {
|
|||||||
type Record struct {
|
type Record struct {
|
||||||
Key string
|
Key string
|
||||||
Value []byte
|
Value []byte
|
||||||
Expiration time.Duration
|
Expiry time.Duration
|
||||||
}
|
}
|
||||||
|
|
||||||
type Option func(o *Options)
|
|
@ -10,7 +10,6 @@ an external database or eventing system. Go Sync provides a framework for synchr
|
|||||||
|
|
||||||
## Getting Started
|
## Getting Started
|
||||||
|
|
||||||
- [Data](#data) - simple distributed data storage
|
|
||||||
- [Leader](#leader) - leadership election for group coordination
|
- [Leader](#leader) - leadership election for group coordination
|
||||||
- [Lock](#lock) - distributed locking for exclusive resource access
|
- [Lock](#lock) - distributed locking for exclusive resource access
|
||||||
- [Task](#task) - distributed job execution
|
- [Task](#task) - distributed job execution
|
||||||
@ -70,30 +69,6 @@ for {
|
|||||||
e.Resign()
|
e.Resign()
|
||||||
```
|
```
|
||||||
|
|
||||||
## Data
|
|
||||||
|
|
||||||
Data provides a simple interface for distributed data storage.
|
|
||||||
|
|
||||||
```go
|
|
||||||
import (
|
|
||||||
"github.com/micro/go-micro/sync/data"
|
|
||||||
"github.com/micro/go-micro/sync/data/consul"
|
|
||||||
)
|
|
||||||
|
|
||||||
keyval := consul.NewData()
|
|
||||||
|
|
||||||
err := keyval.Write(&data.Record{
|
|
||||||
Key: "foo",
|
|
||||||
Value: []byte(`bar`),
|
|
||||||
})
|
|
||||||
// handle err
|
|
||||||
|
|
||||||
v, err := keyval.Read("foo")
|
|
||||||
// handle err
|
|
||||||
|
|
||||||
err = keyval.Delete("foo")
|
|
||||||
```
|
|
||||||
|
|
||||||
## Task
|
## Task
|
||||||
|
|
||||||
Task provides distributed job execution. It's a simple way to distribute work across a coordinated pool of workers.
|
Task provides distributed job execution. It's a simple way to distribute work across a coordinated pool of workers.
|
||||||
|
@ -1,19 +0,0 @@
|
|||||||
package data
|
|
||||||
|
|
||||||
type Options struct {
|
|
||||||
Nodes []string
|
|
||||||
Prefix string
|
|
||||||
}
|
|
||||||
|
|
||||||
func Nodes(a ...string) Option {
|
|
||||||
return func(o *Options) {
|
|
||||||
o.Nodes = a
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
// Prefix sets a prefix to any lock ids used
|
|
||||||
func Prefix(p string) Option {
|
|
||||||
return func(o *Options) {
|
|
||||||
o.Prefix = p
|
|
||||||
}
|
|
||||||
}
|
|
@ -6,12 +6,12 @@ import (
|
|||||||
"encoding/json"
|
"encoding/json"
|
||||||
"fmt"
|
"fmt"
|
||||||
|
|
||||||
"github.com/micro/go-micro/sync/data"
|
"github.com/micro/go-micro/store"
|
||||||
ckv "github.com/micro/go-micro/sync/data/consul"
|
ckv "github.com/micro/go-micro/store/consul"
|
||||||
lock "github.com/micro/go-micro/sync/lock/consul"
|
lock "github.com/micro/go-micro/sync/lock/consul"
|
||||||
)
|
)
|
||||||
|
|
||||||
type syncDB struct {
|
type syncMap struct {
|
||||||
opts Options
|
opts Options
|
||||||
}
|
}
|
||||||
|
|
||||||
@ -20,7 +20,7 @@ func ekey(k interface{}) string {
|
|||||||
return base64.StdEncoding.EncodeToString(b)
|
return base64.StdEncoding.EncodeToString(b)
|
||||||
}
|
}
|
||||||
|
|
||||||
func (m *syncDB) Read(key, val interface{}) error {
|
func (m *syncMap) Read(key, val interface{}) error {
|
||||||
if key == nil {
|
if key == nil {
|
||||||
return fmt.Errorf("key is nil")
|
return fmt.Errorf("key is nil")
|
||||||
}
|
}
|
||||||
@ -34,7 +34,7 @@ func (m *syncDB) Read(key, val interface{}) error {
|
|||||||
defer m.opts.Lock.Release(kstr)
|
defer m.opts.Lock.Release(kstr)
|
||||||
|
|
||||||
// get key
|
// get key
|
||||||
kval, err := m.opts.Data.Read(kstr)
|
kval, err := m.opts.Store.Read(kstr)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
@ -43,7 +43,7 @@ func (m *syncDB) Read(key, val interface{}) error {
|
|||||||
return json.Unmarshal(kval.Value, val)
|
return json.Unmarshal(kval.Value, val)
|
||||||
}
|
}
|
||||||
|
|
||||||
func (m *syncDB) Write(key, val interface{}) error {
|
func (m *syncMap) Write(key, val interface{}) error {
|
||||||
if key == nil {
|
if key == nil {
|
||||||
return fmt.Errorf("key is nil")
|
return fmt.Errorf("key is nil")
|
||||||
}
|
}
|
||||||
@ -63,13 +63,13 @@ func (m *syncDB) Write(key, val interface{}) error {
|
|||||||
}
|
}
|
||||||
|
|
||||||
// set key
|
// set key
|
||||||
return m.opts.Data.Write(&data.Record{
|
return m.opts.Store.Write(&store.Record{
|
||||||
Key: kstr,
|
Key: kstr,
|
||||||
Value: b,
|
Value: b,
|
||||||
})
|
})
|
||||||
}
|
}
|
||||||
|
|
||||||
func (m *syncDB) Delete(key interface{}) error {
|
func (m *syncMap) Delete(key interface{}) error {
|
||||||
if key == nil {
|
if key == nil {
|
||||||
return fmt.Errorf("key is nil")
|
return fmt.Errorf("key is nil")
|
||||||
}
|
}
|
||||||
@ -81,11 +81,11 @@ func (m *syncDB) Delete(key interface{}) error {
|
|||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
defer m.opts.Lock.Release(kstr)
|
defer m.opts.Lock.Release(kstr)
|
||||||
return m.opts.Data.Delete(kstr)
|
return m.opts.Store.Delete(kstr)
|
||||||
}
|
}
|
||||||
|
|
||||||
func (m *syncDB) Iterate(fn func(key, val interface{}) error) error {
|
func (m *syncMap) Iterate(fn func(key, val interface{}) error) error {
|
||||||
keyvals, err := m.opts.Data.Dump()
|
keyvals, err := m.opts.Store.Dump()
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
@ -126,7 +126,7 @@ func (m *syncDB) Iterate(fn func(key, val interface{}) error) error {
|
|||||||
}
|
}
|
||||||
|
|
||||||
// set key
|
// set key
|
||||||
if err := m.opts.Data.Write(&data.Record{
|
if err := m.opts.Store.Write(&store.Record{
|
||||||
Key: keyval.Key,
|
Key: keyval.Key,
|
||||||
Value: b,
|
Value: b,
|
||||||
}); err != nil {
|
}); err != nil {
|
||||||
@ -137,7 +137,7 @@ func (m *syncDB) Iterate(fn func(key, val interface{}) error) error {
|
|||||||
return nil
|
return nil
|
||||||
}
|
}
|
||||||
|
|
||||||
func NewDB(opts ...Option) DB {
|
func NewMap(opts ...Option) Map {
|
||||||
var options Options
|
var options Options
|
||||||
for _, o := range opts {
|
for _, o := range opts {
|
||||||
o(&options)
|
o(&options)
|
||||||
@ -147,11 +147,11 @@ func NewDB(opts ...Option) DB {
|
|||||||
options.Lock = lock.NewLock()
|
options.Lock = lock.NewLock()
|
||||||
}
|
}
|
||||||
|
|
||||||
if options.Data == nil {
|
if options.Store == nil {
|
||||||
options.Data = ckv.NewData()
|
options.Store = ckv.NewStore()
|
||||||
}
|
}
|
||||||
|
|
||||||
return &syncDB{
|
return &syncMap{
|
||||||
opts: options,
|
opts: options,
|
||||||
}
|
}
|
||||||
}
|
}
|
@ -1,7 +1,7 @@
|
|||||||
package sync
|
package sync
|
||||||
|
|
||||||
import (
|
import (
|
||||||
"github.com/micro/go-micro/sync/data"
|
"github.com/micro/go-micro/store"
|
||||||
"github.com/micro/go-micro/sync/leader"
|
"github.com/micro/go-micro/sync/leader"
|
||||||
"github.com/micro/go-micro/sync/lock"
|
"github.com/micro/go-micro/sync/lock"
|
||||||
"github.com/micro/go-micro/sync/time"
|
"github.com/micro/go-micro/sync/time"
|
||||||
@ -21,10 +21,10 @@ func WithLock(l lock.Lock) Option {
|
|||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
// WithData sets the data implementation option
|
// WithStore sets the store implementation option
|
||||||
func WithData(s data.Data) Option {
|
func WithStore(s store.Store) Option {
|
||||||
return func(o *Options) {
|
return func(o *Options) {
|
||||||
o.Data = s
|
o.Store = s
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
10
sync/sync.go
10
sync/sync.go
@ -2,17 +2,17 @@
|
|||||||
package sync
|
package sync
|
||||||
|
|
||||||
import (
|
import (
|
||||||
"github.com/micro/go-micro/sync/data"
|
"github.com/micro/go-micro/store"
|
||||||
"github.com/micro/go-micro/sync/leader"
|
"github.com/micro/go-micro/sync/leader"
|
||||||
"github.com/micro/go-micro/sync/lock"
|
"github.com/micro/go-micro/sync/lock"
|
||||||
"github.com/micro/go-micro/sync/task"
|
"github.com/micro/go-micro/sync/task"
|
||||||
"github.com/micro/go-micro/sync/time"
|
"github.com/micro/go-micro/sync/time"
|
||||||
)
|
)
|
||||||
|
|
||||||
// DB provides synchronized access to key-value storage.
|
// Map provides synchronized access to key-value storage.
|
||||||
// It uses the data interface and lock interface to
|
// It uses the store interface and lock interface to
|
||||||
// provide a consistent storage mechanism.
|
// provide a consistent storage mechanism.
|
||||||
type DB interface {
|
type Map interface {
|
||||||
// Read value with given key
|
// Read value with given key
|
||||||
Read(key, val interface{}) error
|
Read(key, val interface{}) error
|
||||||
// Write value with given key
|
// Write value with given key
|
||||||
@ -33,7 +33,7 @@ type Cron interface {
|
|||||||
type Options struct {
|
type Options struct {
|
||||||
Leader leader.Leader
|
Leader leader.Leader
|
||||||
Lock lock.Lock
|
Lock lock.Lock
|
||||||
Data data.Data
|
Store store.Store
|
||||||
Task task.Task
|
Task task.Task
|
||||||
Time time.Time
|
Time time.Time
|
||||||
}
|
}
|
||||||
|
Loading…
x
Reference in New Issue
Block a user