使用pgx在GO中批量插入Postgres

Question

我正在尝试在db中大容量插入键，这里是代码Key Struct

type tempKey struct {
keyVal  string
lastKey int

}

测试键

data := []tempKey{
    {keyVal: "abc", lastKey: 10},
    {keyVal: "dns", lastKey: 11},
    {keyVal: "qwe", lastKey: 12},
    {keyVal: "dss", lastKey: 13},
    {keyVal: "xcmk", lastKey: 14},
}

插入部分

dbUrl := "db url...."
conn, err := pgx.Connect(context.Background(), dbUrl)
if err != nil {
    println("Errrorr...")
}
defer conn.Close(context.Background())
sqlStr := "INSERT INTO keys (keyval,lastval) VALUES "
dollars := ""
vals := []interface{}{}
count := 1
for _, row := range data {
    dollars = fmt.Sprintf("%s($%d, $%d),", dollars, count, count+1)
    vals = append(vals, row.keyVal, row.lastKey)
    count += 2
}
sqlStr += dollars
sqlStr = sqlStr[0 : len(sqlStr)-1]
fmt.Printf("%s \n", sqlStr)

_, erro := conn.Exec(context.Background(), sqlStr, vals)
if erro != nil {
    fmt.Fprint(os.Stderr, "Error : \n", erro)
}

运行时抛出错误：需要10个参数，得到1个

什么是正确的批量插入方式。

Answer 1

您正在手工编写SQL语句，这很好，但是您没有利用pgx来帮助这一点(请参阅下面)。

像这样追加到SQL字符串对于大型输入来说效率很低。

dollars = fmt.Sprintf("%s($%d, $%d),", dollars, count, count+1)

但是，最后一个值有一个尾随的,，您需要一个终止字符;来指示语句的结尾。

顺便说一下，这条字符串截断行是多余的：

sqlStr = sqlStr[0 : len(sqlStr)-1] // this is a NOOP

无论如何，在制作长字符串时最好使用更多的表演性，比如strings.Builder。

在pgx文档中，使用pgx.Conn.CopyFrom

func (c *Conn) CopyFrom(tableName Identifier, columnNames []string, rowSrc CopyFromSource) (int, error)

CopyFrom使用PostgreSQL复制协议执行大容量数据插入。它返回复制的行数和一个错误。

副本的示例用法：

rows := [][]interface{}{
    {"John", "Smith", int32(36)},
    {"Jane", "Doe", int32(29)},
}

copyCount, err := conn.CopyFrom(
    pgx.Identifier{"people"},
    []string{"first_name", "last_name", "age"},
    pgx.CopyFromRows(rows),
)

Answer 2

使用批处理(test.go)：

batch := &pgx.Batch{}
batch.Queue("insert into ledger(description, amount) values($1, $2)", "q1", 1)
batch.Queue("insert into ledger(description, amount) values($1, $2)", "q2", 2)
br := conn.SendBatch(context.Background(), batch)