KCL 测试用例框架设计 Python java go c++

KCL 虽然是一个面向云原生配置和策略的 DSL,但是依然有测试的需求。本文是 KCL 测试工具具体设计和使用方式的简单介绍。

|主流语言的测试方案|

Python 的单元测试

Python 标准库自带了 unitest 测试库和测试工具。

import unittest

class TestStringMethods(unittest.TestCase):
    def setUp(self):
        pass
    def tearDown(self):
        pass
    
    def test_upper(self):
        self.assertEqual('foo'.upper(), 'FOO')
  • 测试代码以 class 组织

  • 每个测试 class 都必须从 unittest.TestCase 继承

  • class 中每个以 “test_” 开头的方法是独立的测试函数

  • self.assertEqual 是测试框架提供的辅助测试函数

  • setUp 和 tearDown 用于测试前后准备和清理工作

TestCase 可以再组织为 TestSuite:

def suite():
    suite = unittest.TestSuite()
    suite.addTest(WidgetTestCase('test_default_widget_size'))
    suite.addTest(WidgetTestCase('test_widget_resize'))
    return suite

if __name__ == '__main__':
    runner = unittest.TextTestRunner()
    runner.run(suite())

Python 社区也有其他的测试框架如 pytest 测试框架,其提供了更简单的测试代码书写方式:

# content of test_sample.py
def inc(x):
    return x + 1

def test_answer():
    assert inc(3) == 5
  • test_xxx.py 是默认的测试文件

  • test_xxx 全局函数是测试函数

  • assert 指令辅助测试

总结:

  • test_xxx.py 文件名区分测试代码

  • 通过 TestXXX 类来组织针对某个目标测试代码

  • 类中的 test_xxx 方法用于不同参数条件下的测试

  • 每个测试可以有准备和清理的的函数

  • pytest 测试代码书写更简单,但是需要安装额外的 pytest 工具

Java的单元测试 - JUnit

Java 的 JUint 是 xUint 测试框架中的一员,测试代码和 Python 的 unittest 结构很像:

public class HelloWorld extends TestCase {
    public void testMultiplication() {
        assertEquals("Multiplication", 6, 3*2);
    }
}
  • 从 TestCase 继承

  • testMultiplication 表示测试函数

  • assertEquals 是从 TestCase 继承的方法

在新的版本中,测试类不再需要从 TestCase 继承(有点类似 pytest),增加了 @Test 修饰器标注测试方法:

public class HelloWorld {
    @Test
    public void testMultiplication() {
        assertEquals("Multiplication", 6, 3*2);
    }
}

总结:

  • 通过基础测试框架 TestCase 提供 assertEquals 等测试函数

  • testXXX 等方法表示测试函数

Go 的单元测试

Go 的单元测试和 pytest 风格很像,同步全局的测试函数组织测试代码:

// xxx_test.Go
func TestFoo(t testing.T) {
    if 1+1 != 2 { t.Fatal(‘msg’) }
}

通过传入的t参数可以简单控制测试的流程(比如根据调整选择不同的测试流程)。

测试函数通过命名规则和 type、method 和 name形成关联,用于更友好展示测试信息:

func Test_suffix() { ... }
func TestF_suffix() { ... }
func TestT_suffix() { ... }
func TestT_M_suffix() { ... }

内置的 go test 工具还可以根据条件运行某些测试,也支持递归运行子目录的测试。此外,还支持运行性能和模糊测试。

总结:

  • Go 的单元测试固定命名规则,维护简单同时也可以关联到相关的目标

  • 支持并发测试和失败测试

  • 内置的测试工具简单灵活

C/C++ 单元测试 - GTest

GTest 是 C/C++ 测试框架,测试代码如下:

#include <gtest/gtest.h>

// Tests factorial of 0.
TEST(FactorialTest, HandlesZeroInput) {
  EXPECT_EQ(Factorial(0), 1);
}

// Tests factorial of positive numbers.
TEST(FactorialTest, HandlesPositiveInput) {
  EXPECT_EQ(Factorial(1), 1);
  EXPECT_EQ(Factorial(2), 2);
  EXPECT_EQ(Factorial(3), 6);
  EXPECT_EQ(Factorial(8), 40320);
}

因为语言的原因,GTest 需要自定义入口函数:

int main(int argc, char **argv) {
  testing::InitGoogleTest(&argc, argv); // 初始化,所有测试都是这里启动的
  return RUN_ALL_TESTS(); // 运行所有测试用例
}

通过 TEST 宏模拟一个测试函数,宏的 2 个参数表示 testCase 对具体测试的名字。比如 TEST(FactorialTest, HandlesZeroInput) 对应 Go 语言的 TestFactorial_handlesZeroInput 测试函数。

总结:

  • GTest 通过 TEST 宏组织测试代码

  • 需要手工定义测试入口函数

主流单元测试框架总结

  • 文件通过 test_xxx 或 xxx_test 文件名来组织测试代码

  • 测试函数通过测试 class,并且以 test_xxx 函数名的方式组织测试函数

  • 提供便捷的测试命令,支持可选择、可批量运行测试代码 丰富的测试辅助函数

|KCL 测试框架设计|

参考主流的测试框架,并结合已有的 KCL 语言特性,通过 lambda 函数组织测试代码、通过内置 runtime 库提供测试失败断言相关辅助函数、通过内置测试工具简化测试运行过程。

测试代码对应的文件名

每个目录下的 xxx_test.k 是单元测试,每个 xxx_test.k 类似一个独立执行的 main.k 文件,可以最大语法灵活度编写测试代码。xxx_test.k 文件不能被其他 k 文件导入。

KCL 单元测试工具内置了简单的测试框架。每个目录下的测试是一组测试集,每个 test.k 文件中每个 lambda 测试函数以 test 开头命名。

单元测试用例

假设这里有个 hello.k 配置文件:

schema Person:
    name: str = "kcl"
    age: int = 1

    check:
        0 <= age <= 120, "age must be in [0, 120]"

hello = Person {
    name = "hello kcl"
    age = 102
}

构造对应的 hello_test.k 单元测试文件 (位于 hello.k 的同文件夹下):

test_person = lambda {
    a = Person {}
    assert a.name == 'kcl'
}
test_person_age = lambda {
    a = Person {}
    assert a.age == 1
}
test_person_ok = lambda {
    a = Person {}
    assert a.name == "kcl"
    assert a.age == 1
}

在当前目录下通过 kcl test 命令执行测试。输出结果如下:

test_person: PASS (2ms)
test_person_age: PASS (1ms)
test_person_ok: PASS (1ms)
--------------------------------------------------------
PASS: 3/3

失败测试用例

修改 hello_test.k,构造一个失败的测试(真实的场景错误一般在 hello.k,这里只是为了便于演示):

test_person = lambda {
    a = Person{}
    assert a.name == 'kcl2'
}
test_person_age = lambda {
    a = Person{}
    assert a.age == 123
}
test_person_ok = lambda {
    a = Person{}
    assert a.name == "kcl2"
    assert a.age == 1
}

重新运行测试的输出结果如下:

test_person: FAIL (6ms)
EvaluationError
 --> hello_test.k:3:1
  |
3 |     assert a.name == 'kcl2'

test_person_age: FAIL (3ms)
EvaluationError
 --> hello_test.k:7:1
  |
7 |     assert a.age == 123
  |

test_person_ok: FAIL (2ms)
EvaluationError
  --> hello_test.k:11:1
   |
11 |     assert a.name == "kcl2"
   |

------------------------------------------------------
FAIL: 3/3

如果我们想要正确测试错误情况并检查错误消息,我们可以使用 runtime.catch 函数。

import runtime

test_person_age_check_error_message = lambda {
    msg = runtime.catch(lambda {
        a = Person {age = 123}
    }) 
    assert msg == "age must be in [0, 120]"
}

运行命令

kcl test

输出:

test_person_age_check_error_message: PASS (2ms)
--------------------------------------------------------------------------------
PASS: 1/1

可以看到我们成功检测到了 schema Person 的 check 错误信息

其他参考测试用例

目前 KCL 在 modules 模型仓库提供了一些基础库并使用了 kcl test 工具保证库的正确性,以下是一些参考用例

  • https://github.com/kcl-lang/modules/tree/main/jsonpatch/main_test.k

  • https://github.com/kcl-lang/modules/blob/main/json_merge_patch/main_test.

标准库与三方库
标准库
  • 新增标准库 file 用于文件 IO 操作,比如从 YAML 读取配置并进行配置合并操作

import file
import yaml
import json_merge_patch as p

config = p.merge(yaml.decode(file.read("deployment.yaml")), {
    metadata.name = "override_value"
})

其他更多 file 模块函数详见:https://www.kcl-lang.io/docs/reference/model/file

KCL 参考了主流语言的测试,最终通过 assert 和内置的测试工具配合实现单元测试。具体细节可以参考最新的文档:https://www.kcl-lang.io/zh-CN/docs/tools/cli/kcl/test

KCL 和其他生态项目一起使用的真实用例

  • https://github.com/mindwm/mindwm-gitops

  • https://github.com/vfarcic/crossplane-kubernetes

  • https://github.com/giantswarm/crossplane-gs-apis/blob/main/crossplane.giantswarm.io/xnetworks/package/compositions/peered-vpc-network.yaml

  • https://github.com/upbound/configuration-aws-eks/blob/main/apis/composition-kcl.yaml

KCL 多语言 SDK 新增至 7 个, 目前主要支持 Rust, Go, Java, .NET, Python, Node.js 和 WASM,无需额外安装 KCL 命令行即可使用,安装体积优化为之前版本的 90%,且不需要复杂的系统依赖。

此外,不同的 SDK 均提供了相同的 API,主要包括代码运行,代码分析,类型解析和添加外部依赖等操作,下面以 Java 和 C# SDK 为例

  • Java

import com.kcl.api.API;
import com.kcl.api.Spec.ExecProgram_Args;
import com.kcl.api.Spec.ExecProgram_Result;

public class ExecProgramTest {
    public static void main(String[] args) throws Exception {
        API api = new API();
        ExecProgram_Result result = api
                .execProgram(ExecProgram_Args.newBuilder().addKFilenameList("path/to/kcl.k").build());
        System.out.println(result.getYamlResult());
    }
}
  • C#

namespace KclLib.Tests;

using KclLib.API;

public class KclLibAPITest
{
    public static void Main()
    {
        var execArgs = new ExecProgram_Args();
        execArgs.KFilenameList.Add("path/to/kcl.k");
        var result = new API().ExecProgram(execArgs);
        Console.WriteLine(result.YamlResult);
    }
}

更多其他 SDK 安装和使用方式详见:https://github.com/kcl-lang/lib

 

转载:KCL 测试框架设计

KCL v0.9.0 重磅发布 - 小体积,高性能,更丰富的生态集成

上一篇:【Week-G4】手势图像生成(CGAN)- PyTorch【使用生成好的生成器生成指定手势】


下一篇:高阶面试-hw算法整理-1154一年中的第几天