如何确保每个批次中都有所有的标签。

Question

如何确保每个批次都有带有所有标签的样品？例如，考虑情绪分析问题的标签正面和负面。

tokens = tokenizer.batch_encode_plus(text.tolist(),max_length = max_seq_len,pad_to_max_length=True,truncation=True, return_token_type_ids=False)    
seq = torch.tensor(tokens['input_ids'])
mask = torch.tensor(tokens['attention_mask'])
y = torch.tensor(labels.tolist())    
data = TensorDataset(seq, mask,y)
data_sampler = RandomSampler(data)
data_dataloader = DataLoader(data, sampler=data_sampler, batch_size=batch_size)

我想要一批像

Batch-1 ['positive','positive','positive','negative']
Batch-2 ['negative','negative','positive','negative']

每个批次都包含所有标签。

Answer 1

关于分层抽样，这在PyTorch中有选择。

但是，如果这不能满足您的需要，我的建议是要么使用科学知识-学习来适应PyTorch代码，要么阅读scikit-学习代码并使其适应PyTorch。