ApacheBeam流水线测试报错AssertionError
创始人
2024-09-05 11:30:29
0

在测试代码中添加数据生成器并强制转换数据类型

在 Apache Beam 流水线测试中,如果出现 Assertion Error 错误信息,一般是由于测试数据类型不匹配所导致的。为了解决这个问题,可以在测试代码中添加数据生成器,并强制转换数据类型。

例如,在以下代码中,我们创建一个简单的流水线,对文本中的单词进行计数:

import apache_beam as beam

pipeline = beam.Pipeline()

words = ['hello', 'world',
         'hello', 'beam',
         'world', 'beam',
         'apache', 'beam',
         'hello', 'apache']

word_counts = (
    pipeline
    | beam.Create(words)
    | beam.Map(lambda word: (word, 1))
    | beam.CombinePerKey(sum)
)

# test code
import logging
import unittest

class WordCountTest(unittest.TestCase):

    def test_word_count_pipeline(self):
        test_data = [
            ('hello', 3),
            ('world', 2),
            ('beam', 3),
            ('apache', 2)
        ]

        result = (
            test_data
            | beam.Create()
            | beam.Map(lambda x: (x[0], x[1]))
            | word_counts
        )

        # check the output
        for r in result:
            logging.info(r)
            self.assertIn(r, test_data)

if __name__ == '__main__':
    logging.getLogger().setLevel(logging.INFO)
    unittest.main(argv=['first-arg-is-ignored'], exit=False)

在运行测试时,会报出以下 Assertion Error 错误信息:

ERROR: test_word_count_pipeline (__main__.WordCountTest)
----------------------------------------------------------------------
Traceback (most recent call last):
  ...
  File "/usr/local/lib/python3.7/site-packages/apache_beam/testing/test_pipeline.py", line 612, in assert_that
    _assert_that(actual, matcher, self._pipeline_options, label)
  File "/usr/local/lib/python3.7/site-packages/apache_beam/testing/test_pipeline.py", line 634, in _assert_that
    matcher = _create_flatten_matcher(matcher)

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...