store: add implementation
Signed-off-by: Tonis Tiigi <tonistiigi@gmail.com>pull/20/head
Tonis Tiigi
7 years ago
parent
950180ed82
commit
0e72bf0049
@ -0,0 +1,258 @@
|
|||||||
|
package store
|
||||||
|
|
||||||
|
import (
|
||||||
|
"encoding/json"
|
||||||
|
"io"
|
||||||
|
"io/ioutil"
|
||||||
|
"os"
|
||||||
|
"path/filepath"
|
||||||
|
"regexp"
|
||||||
|
"sort"
|
||||||
|
"strings"
|
||||||
|
|
||||||
|
"github.com/gofrs/flock"
|
||||||
|
"github.com/opencontainers/go-digest"
|
||||||
|
"github.com/pkg/errors"
|
||||||
|
)
|
||||||
|
|
||||||
|
type NodeGroup struct {
|
||||||
|
Name string
|
||||||
|
Driver string
|
||||||
|
Nodes []Node
|
||||||
|
Endpoint string
|
||||||
|
}
|
||||||
|
|
||||||
|
type Node struct {
|
||||||
|
Name string
|
||||||
|
Endpoint string
|
||||||
|
Platforms []string
|
||||||
|
}
|
||||||
|
|
||||||
|
func NewStore(root string) (*Store, error) {
|
||||||
|
root = filepath.Join(root, "buildx")
|
||||||
|
if err := os.MkdirAll(filepath.Join(root, "instances"), 0700); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
if err := os.MkdirAll(filepath.Join(root, "defaults"), 0700); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
return &Store{root: root}, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
type Store struct {
|
||||||
|
root string
|
||||||
|
}
|
||||||
|
|
||||||
|
func (s *Store) Txn() (*Txn, func(), error) {
|
||||||
|
l := flock.New(filepath.Join(s.root, ".lock"))
|
||||||
|
if err := l.Lock(); err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
return &Txn{
|
||||||
|
s: s,
|
||||||
|
}, func() {
|
||||||
|
l.Close()
|
||||||
|
}, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
type Txn struct {
|
||||||
|
s *Store
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) List() ([]*NodeGroup, error) {
|
||||||
|
pp := filepath.Join(t.s.root, "instances")
|
||||||
|
fis, err := ioutil.ReadDir(pp)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
ngs := make([]*NodeGroup, 0, len(fis))
|
||||||
|
for _, fi := range fis {
|
||||||
|
ng, err := t.NodeGroupByName(fi.Name())
|
||||||
|
if err != nil {
|
||||||
|
if os.IsNotExist(errors.Cause(err)) {
|
||||||
|
os.RemoveAll(filepath.Join(pp, fi.Name()))
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
ngs = append(ngs, ng)
|
||||||
|
}
|
||||||
|
|
||||||
|
sort.Slice(ngs, func(i, j int) bool {
|
||||||
|
return ngs[i].Name < ngs[j].Name
|
||||||
|
})
|
||||||
|
|
||||||
|
return ngs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) NodeGroupByName(name string) (*NodeGroup, error) {
|
||||||
|
name, err := validateName(name)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
dt, err := ioutil.ReadFile(filepath.Join(t.s.root, "instances", name))
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
var ng NodeGroup
|
||||||
|
if err := json.Unmarshal(dt, &ng); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
return &ng, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) Save(ng *NodeGroup) error {
|
||||||
|
name, err := validateName(ng.Name)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
dt, err := json.Marshal(ng)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return atomicWriteFile(filepath.Join(t.s.root, "instances", name), dt, 0600)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) Remove(name string) error {
|
||||||
|
name, err := validateName(name)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return os.RemoveAll(filepath.Join(t.s.root, "instances", name))
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) SetCurrent(key, name string, global, def bool) error {
|
||||||
|
c := current{
|
||||||
|
Key: key,
|
||||||
|
Name: name,
|
||||||
|
Global: global,
|
||||||
|
}
|
||||||
|
dt, err := json.Marshal(c)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
if err := atomicWriteFile(filepath.Join(t.s.root, "current"), dt, 0600); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
h := toHash(key)
|
||||||
|
|
||||||
|
if def {
|
||||||
|
if err := atomicWriteFile(filepath.Join(t.s.root, "defaults", h), []byte(name), 0600); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
} else {
|
||||||
|
os.RemoveAll(filepath.Join(t.s.root, "defaults", h)) // ignore error
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) reset(key string) error {
|
||||||
|
dt, err := json.Marshal(current{Key: key})
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
if err := atomicWriteFile(filepath.Join(t.s.root, "current"), dt, 0600); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (t *Txn) Current(key string) (*NodeGroup, error) {
|
||||||
|
dt, err := ioutil.ReadFile(filepath.Join(t.s.root, "current"))
|
||||||
|
if err != nil {
|
||||||
|
if !os.IsNotExist(err) {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
}
|
||||||
|
if err == nil {
|
||||||
|
var c current
|
||||||
|
if err := json.Unmarshal(dt, &c); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
if c.Name != "" {
|
||||||
|
if c.Global {
|
||||||
|
ng, err := t.NodeGroupByName(c.Name)
|
||||||
|
if err == nil {
|
||||||
|
return ng, nil
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
if c.Key == key {
|
||||||
|
ng, err := t.NodeGroupByName(c.Name)
|
||||||
|
if err == nil {
|
||||||
|
return ng, nil
|
||||||
|
}
|
||||||
|
return nil, nil
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
h := toHash(key)
|
||||||
|
|
||||||
|
dt, err = ioutil.ReadFile(filepath.Join(t.s.root, "defaults", h))
|
||||||
|
if err != nil {
|
||||||
|
if os.IsNotExist(err) {
|
||||||
|
t.reset(key)
|
||||||
|
return nil, nil
|
||||||
|
}
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
ng, err := t.NodeGroupByName(string(dt))
|
||||||
|
if err != nil {
|
||||||
|
t.reset(key)
|
||||||
|
}
|
||||||
|
if err := t.SetCurrent(key, string(dt), false, true); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
return ng, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
type current struct {
|
||||||
|
Key string
|
||||||
|
Name string
|
||||||
|
Global bool
|
||||||
|
}
|
||||||
|
|
||||||
|
var namePattern = regexp.MustCompile(`^[a-zA-Z][a-zA-Z0-9\.\-_\+]*$`)
|
||||||
|
|
||||||
|
func validateName(s string) (string, error) {
|
||||||
|
if !namePattern.MatchString(s) {
|
||||||
|
return "", errors.Errorf("invalid name %s, name needs to start with a letter and may not contain symbols, except ._-", s)
|
||||||
|
}
|
||||||
|
return strings.ToLower(s), nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func atomicWriteFile(filename string, data []byte, perm os.FileMode) error {
|
||||||
|
f, err := ioutil.TempFile(filepath.Dir(filename), ".tmp-"+filepath.Base(filename))
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
err = os.Chmod(f.Name(), perm)
|
||||||
|
if err != nil {
|
||||||
|
f.Close()
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
n, err := f.Write(data)
|
||||||
|
if err == nil && n < len(data) {
|
||||||
|
f.Close()
|
||||||
|
return io.ErrShortWrite
|
||||||
|
}
|
||||||
|
if err != nil {
|
||||||
|
f.Close()
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
if err := f.Sync(); err != nil {
|
||||||
|
f.Close()
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
if err := f.Close(); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return os.Rename(f.Name(), filename)
|
||||||
|
}
|
||||||
|
|
||||||
|
func toHash(in string) string {
|
||||||
|
return digest.FromBytes([]byte(in)).Hex()[:20]
|
||||||
|
}
|
||||||
@ -0,0 +1,237 @@
|
|||||||
|
package store
|
||||||
|
|
||||||
|
import (
|
||||||
|
"io/ioutil"
|
||||||
|
"os"
|
||||||
|
"testing"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/pkg/errors"
|
||||||
|
"github.com/stretchr/testify/require"
|
||||||
|
)
|
||||||
|
|
||||||
|
func TestEmptyStartup(t *testing.T) {
|
||||||
|
t.Parallel()
|
||||||
|
tmpdir, err := ioutil.TempDir("", "buildx-store")
|
||||||
|
require.NoError(t, err)
|
||||||
|
defer os.RemoveAll(tmpdir)
|
||||||
|
|
||||||
|
s, err := New(tmpdir)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
txn, close, err := s.Txn()
|
||||||
|
require.NoError(t, err)
|
||||||
|
defer close()
|
||||||
|
|
||||||
|
ng, err := txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestNodeLocking(t *testing.T) {
|
||||||
|
t.Parallel()
|
||||||
|
tmpdir, err := ioutil.TempDir("", "buildx-store")
|
||||||
|
require.NoError(t, err)
|
||||||
|
defer os.RemoveAll(tmpdir)
|
||||||
|
|
||||||
|
s, err := New(tmpdir)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
_, release, err := s.Txn()
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ready := make(chan struct{})
|
||||||
|
|
||||||
|
go func() {
|
||||||
|
_, release, err := s.Txn()
|
||||||
|
require.NoError(t, err)
|
||||||
|
release()
|
||||||
|
close(ready)
|
||||||
|
}()
|
||||||
|
|
||||||
|
select {
|
||||||
|
case <-time.After(100 * time.Millisecond):
|
||||||
|
case <-ready:
|
||||||
|
require.Fail(t, "transaction should have waited")
|
||||||
|
}
|
||||||
|
|
||||||
|
release()
|
||||||
|
select {
|
||||||
|
case <-time.After(200 * time.Millisecond):
|
||||||
|
require.Fail(t, "transaction should have completed")
|
||||||
|
case <-ready:
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestNodeManagement(t *testing.T) {
|
||||||
|
t.Parallel()
|
||||||
|
tmpdir, err := ioutil.TempDir("", "buildx-store")
|
||||||
|
require.NoError(t, err)
|
||||||
|
defer os.RemoveAll(tmpdir)
|
||||||
|
|
||||||
|
s, err := New(tmpdir)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
txn, release, err := s.Txn()
|
||||||
|
require.NoError(t, err)
|
||||||
|
defer release()
|
||||||
|
|
||||||
|
err = txn.Save(&NodeGroup{
|
||||||
|
Name: "foo/bar",
|
||||||
|
Driver: "driver",
|
||||||
|
})
|
||||||
|
require.Error(t, err)
|
||||||
|
require.Contains(t, err.Error(), "invalid name")
|
||||||
|
|
||||||
|
err = txn.Save(&NodeGroup{
|
||||||
|
Name: "mybuild",
|
||||||
|
Driver: "mydriver",
|
||||||
|
})
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err := txn.NodeGroupByName("mybuild")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
require.Equal(t, "mydriver", ng.Driver)
|
||||||
|
|
||||||
|
_, err = txn.NodeGroupByName("mybuild2")
|
||||||
|
require.Error(t, err)
|
||||||
|
require.True(t, os.IsNotExist(errors.Cause(err)))
|
||||||
|
|
||||||
|
err = txn.Save(&NodeGroup{
|
||||||
|
Name: "mybuild2",
|
||||||
|
Driver: "mydriver2",
|
||||||
|
})
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.NodeGroupByName("mybuild2")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Equal(t, "mybuild2", ng.Name)
|
||||||
|
require.Equal(t, "mydriver2", ng.Driver)
|
||||||
|
|
||||||
|
// update existing
|
||||||
|
err = txn.Save(&NodeGroup{
|
||||||
|
Name: "mybuild",
|
||||||
|
Driver: "mydriver-mod",
|
||||||
|
})
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.NodeGroupByName("mybuild")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
require.Equal(t, "mydriver-mod", ng.Driver)
|
||||||
|
|
||||||
|
ngs, err := txn.List()
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Equal(t, 2, len(ngs))
|
||||||
|
|
||||||
|
// test setting current
|
||||||
|
err = txn.SetCurrent("foo", "mybuild", false, false)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
|
||||||
|
// set with default
|
||||||
|
err = txn.SetCurrent("foo", "mybuild", false, true)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
err = txn.SetCurrent("foo", "mybuild2", false, true)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild2", ng.Name)
|
||||||
|
|
||||||
|
err = txn.SetCurrent("bar", "mybuild", false, false)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild2", ng.Name)
|
||||||
|
|
||||||
|
// set global
|
||||||
|
err = txn.SetCurrent("foo", "mybuild2", true, false)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild2", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild2", ng.Name)
|
||||||
|
|
||||||
|
err = txn.SetCurrent("bar", "mybuild", false, false)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
|
||||||
|
err = txn.SetCurrent("bar", "mybuild", false, true)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
err = txn.SetCurrent("foo", "mybuild2", false, false)
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
// test removal
|
||||||
|
err = txn.Remove("mybuild2")
|
||||||
|
require.NoError(t, err)
|
||||||
|
|
||||||
|
_, err = txn.NodeGroupByName("mybuild2")
|
||||||
|
require.Error(t, err)
|
||||||
|
require.True(t, os.IsNotExist(errors.Cause(err)))
|
||||||
|
|
||||||
|
ng, err = txn.Current("foo")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.Nil(t, ng)
|
||||||
|
|
||||||
|
ng, err = txn.Current("bar")
|
||||||
|
require.NoError(t, err)
|
||||||
|
require.NotNil(t, ng)
|
||||||
|
require.Equal(t, "mybuild", ng.Name)
|
||||||
|
}
|
||||||
Loading…
Reference in New Issue