使用asyncpg插入多行的最佳方式

Question

我想用asyncpg插入多行并获取i，我找到了两种方法: 1:像这样生成sql

INSERT INTO films (code, title, did, date_prod, kind) VALUES
    ('B6717', 'Tampopo', 110, '1985-02-10', 'Comedy'),
    ('HG120', 'The Dinner Game', 140, DEFAULT, 'Comedy')
RETURNING id;

2:在for循环中使用预准备语句

values =(('B6717', 'Tampopo', 110, '1985-02-10', 'Comedy'),
        ('HG120', 'The Dinner Game', 140, DEFAULT, 'Comedy'))
stmnt = connection.prepare("INSERT INTO films (code, title, did, date_prod, kind) VALUES $1, $2, $3, $4, $5  RETURNING id")
for val in values:
    stmnt.fetchval(*val)

在100x倍的情况下，我必须选择哪种方法来处理70万行数据，或者有一些方法可以组合这些方法？我完全是菜鸟，所以给我扔点西红柿

Answer 1

如果需要使用RETURNING子句重新获取is，则以下是插入多个值的最有效方法：

res = await conn.fetch('''
    INSERT INTO films (code, title, did, date_prod, kind)
    (SELECT
        r.code, r.title, r.did, r.date_prod, r.kind
     FROM
        unnest($1::films[]) as r
    )
    RETURNING id
''', [
    (None, 'B6717', 'Tampopo', 110, '1985-02-10', 'Comedy'),
    (None, 'HG120', 'The Dinner Game', 140, None, 'Comedy')
])

注意，作为输入传递的记录必须对应于表的形状: PostgreSQL不支持将任意记录作为输入，因此必须使用已知的记录类型。只需将未插入的列作为None传递，并且不要将它们包含在SELECT返回列表中。此方法也不允许您依赖DEFAULT，您必须显式指定每个插入的值。

Answer 2

asyncpg提供了executemany方法来插入许多行。

statement = """INSERT INTO films (code,
                           title, 
                           did, 
                           date_prod, 
                           kind) VALUES($1, $2, $3, $4, $5);"""
await connection.executemany(statement, values)

如果需要使用稍后提到的RETURNING来返回插入的ids，则可以使用此answer。

Answer 3

一次插入多行的另一种方法(假设不需要插入的is )是使用copy_records_to_table方法。

data = [
    ("row", 1, "some data"),
    ("row", 2, "more data"),
]
await conn.copy_records_to_table('mytable', records=data)