• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    公众号

Python util.read_input函数代码示例

原作者: [db:作者] 来自: [db:来源] 收藏 邀请

本文整理汇总了Python中mrjob.util.read_input函数的典型用法代码示例。如果您正苦于以下问题:Python read_input函数的具体用法?Python read_input怎么用?Python read_input使用的例子?那么恭喜您, 这里精选的函数代码示例或许可以为您提供帮助。



在下文中一共展示了read_input函数的14个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于我们的系统推荐出更棒的Python代码示例。

示例1: line_group_generator

        def line_group_generator(input_path):
            # Generate lines from a given input_path, if keep_sorted is True,
            # group lines by key; otherwise have one line per group
            # concatenate all lines with the same key and yield them
            # together
            if keep_sorted:
                def reducer_key(line):
                    return line.split('\t')[0]

                # assume that input is a collection of key <tab> value pairs
                # match all non-tab characters
                for _, lines in itertools.groupby(
                        read_input(input_path), key=reducer_key):
                    yield lines
            else:
                for line in read_input(input_path):
                    yield (line,)
开发者ID:PythonCharmers,项目名称:mrjob,代码行数:17,代码来源:sim.py


示例2: _read_input

    def _read_input(self):
        """Read from stdin, or one more files, or directories.
        Yield one line at time.

        - Resolve globs (``foo_*.gz``).
        - Decompress ``.gz`` and ``.bz2`` files.
        - If path is ``-``, read from STDIN.
        - Recursively read all files in a directory
        """
        paths = self.args or ['-']
        for path in paths:
            for line in read_input(path, stdin=self.stdin):
                yield line
开发者ID:uniquegino,项目名称:mrjob,代码行数:13,代码来源:job.py


示例3: test_bad_glob

 def test_bad_glob(self):
     # read_input is a generator, so we won't get an error
     # until we try to read from it
     self.assertRaises(IOError, list,
                       read_input(os.path.join(self.tmpdir, 'lions*')))
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:5,代码来源:test_util.py


示例4: test_dir_recursion

 def test_dir_recursion(self):
     lines = read_input(self.tmpdir)
     self.assertEqual(list(lines), [self.BEAVER_DATA] * 4)
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例5: test_glob_including_dir

 def test_glob_including_dir(self):
     lines = read_input(os.path.join(self.tmpdir, 'beavers*'))
     self.assertEqual(list(lines), [self.BEAVER_DATA] * 4)
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例6: test_stdin_can_be_iterator

 def test_stdin_can_be_iterator(self):
     lines = read_input('-', stdin=[self.BEAVER_DATA] * 5)
     self.assertEqual(list(lines), [self.BEAVER_DATA] * 5)
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例7: test_dir

 def test_dir(self):
     lines = read_input(os.path.join(self.tmpdir, 'beavers/'))
     self.assertEqual(list(lines), [self.BEAVER_DATA])
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例8: test_glob

 def test_glob(self):
     lines = read_input(os.path.join(self.tmpdir, 'beavers.*'))
     assert_equal(list(lines), [self.BEAVER_DATA] * 3)
开发者ID:gimlids,项目名称:LTPM,代码行数:3,代码来源:util_test.py


示例9: test_stdin

 def test_stdin(self):
     lines = read_input('-', stdin=BytesIO(self.BEAVER_DATA))
     self.assertEqual(list(lines), [self.BEAVER_DATA])
开发者ID:anirudhreddy92,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例10: test_bz2_file

 def test_bz2_file(self):
     lines = read_input(os.path.join(self.tmpdir, 'beavers.bz2'))
     assert_equal(list(lines), [self.BEAVER_DATA])
开发者ID:gimlids,项目名称:LTPM,代码行数:3,代码来源:util_test.py


示例11: test_stdin

 def test_stdin(self):
     lines = read_input('-', stdin=StringIO(self.BEAVER_DATA))
     assert_equal(list(lines), [self.BEAVER_DATA])
开发者ID:gimlids,项目名称:LTPM,代码行数:3,代码来源:util_test.py


示例12: test_glob

 def test_glob(self):
     lines = read_input(os.path.join(self.tmpdir, "beavers.*"))
     self.assertEqual(list(lines), [self.BEAVER_DATA] * 3)
开发者ID:bchess,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例13: test_bz2_file

 def test_bz2_file(self):
     lines = read_input(os.path.join(self.tmpdir, "beavers.bz2"))
     self.assertEqual(list(lines), [self.BEAVER_DATA])
开发者ID:bchess,项目名称:mrjob,代码行数:3,代码来源:test_util.py


示例14: test_stdin

 def test_stdin(self):
     lines = read_input("-", stdin=StringIO(self.BEAVER_DATA))
     self.assertEqual(list(lines), [self.BEAVER_DATA])
开发者ID:bchess,项目名称:mrjob,代码行数:3,代码来源:test_util.py



注:本文中的mrjob.util.read_input函数示例由纯净天空整理自Github/MSDocs等源码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
Python util.safeeval函数代码示例发布时间:2022-05-27
下一篇:
Python util.read_file函数代码示例发布时间:2022-05-27
热门推荐
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap